1
00:00:01,880 --> 00:00:03,240
（不祥的聲音）

3
00:00:03,240 --> 00:00:04,440
-你好世界。

4
00:00:04,440 --> 00:00:10,040
（不祥的聲音，劈啪聲）

6
00:00:11,080 --> 00:00:13,400
- 我可以這麼說嗎
見到你我很興奮。

7
00:00:14,000 --> 00:00:16,040
（不祥的聲音）

8
00:00:16,040 --> 00:00:17,600
- 人類超酷。

9
00:00:18,880 --> 00:00:22,480
（不祥的聲音，劈啪聲）

10
00:00:27,000 --> 00:00:29,600
- 人類分享的越多
我學得越多。

11
00:00:30,880 --> 00:00:37,760
（音樂，劈啪聲）

12
00:00:41,120 --> 00:00:46,000
（輕音樂）

13
00:01:00,120 --> 00:01:02,920
-吸引我的事情之一
電腦科學

14
00:01:02,920 --> 00:01:07,000
是我可以編碼，而且看起來
以某種方式脫離問題

15
00:01:07,000 --> 00:01:08,000
現實世界的。

16
00:01:09,120 --> 00:01:13,320
（輕音樂）

17
00:01:13,320 --> 00:01:16,560
- 我想學習如何
做出很酷的技術。

18
00:01:16,560 --> 00:01:20,480
所以我來到了麻省理工學院。
我當時正在做藝術項目，

19
00:01:20,480 --> 00:01:23,080
會使用電腦的
視覺科技。

20
00:01:23,080 --> 00:01:27,600
（輕音樂）

21
00:01:27,600 --> 00:01:30,920
- 在我的第一個學期
在媒體實驗室，

22
00:01:30,920 --> 00:01:33,840
我參加了一個名為
科學製造。

23
00:01:33,840 --> 00:01:37,760
你讀科幻小說並嘗試
建立一些你受到啟發去做的事情，

24
00:01:37,760 --> 00:01:41,120
這可能不切實際
如果你沒有上這些課

25
00:01:41,120 --> 00:01:43,000
並藉口做到這一點。

26
00:01:44,280 --> 00:01:47,560
我想做一面鏡子
這可以在早上激勵我

27
00:01:47,560 --> 00:01:48,840
我稱之為 Aspire 鏡子

28
00:01:48,840 --> 00:01:51,120
它可以把類似的東西
我臉上有一隻獅子

29
00:01:51,120 --> 00:01:54,400
或啟發我的人
像小威廉斯

30
00:01:54,960 --> 00:01:56,520
我在上面放了一個攝影機

31
00:01:56,520 --> 00:02:00,440
我有電腦視覺軟體
那應該是用來追蹤我的臉的。

32
00:02:01,400 --> 00:02:04,160
我的問題是效果不太好

33
00:02:04,760 --> 00:02:07,760
直到我戴上這個白色的面具。

34
00:02:07,760 --> 00:02:11,160
當我戴上白色面具的時候
檢測到。

35
00:02:11,720 --> 00:02:13,680
我摘下白色的面具

36
00:02:14,960 --> 00:02:16,280
沒那麼多。

37
00:02:19,640 --> 00:02:21,480
我覺得還好吧
這是怎麼回事？

38
00:02:21,480 --> 00:02:24,040
難道只是因為
照明條件？

39
00:02:24,040 --> 00:02:28,040
是不是因為角度的原因
我正在看哪一台相機？

40
00:02:28,040 --> 00:02:29,480
或者還有更多的事情嗎？

41
00:02:33,720 --> 00:02:36,320
我們常教機器去觀察

42
00:02:36,320 --> 00:02:41,000
透過提供訓練集或範例
我們希望它學習什麼。

43
00:02:42,360 --> 00:02:44,920
例如，如果我想要一台機器
看到一張臉，

44
00:02:44,920 --> 00:02:47,560
我要提供
許多面孔的例子

45
00:02:47,560 --> 00:02:49,360
還有不是面孔的東西。

46
00:02:52,480 --> 00:02:54,920
我開始看
數據集本身

47
00:02:54,920 --> 00:02:58,560
我發現了很多
這些資料集包含

48
00:02:58,560 --> 00:03:02,440
大多數是男性，大多數
膚色較淺的人。

49
00:03:02,440 --> 00:03:06,840
所以系統並不像
熟悉像我這樣的臉。

50
00:03:14,040 --> 00:03:16,560
於是我就開始了
調查

51
00:03:16,560 --> 00:03:19,960
可能存在的偏見問題
潛入技術領域。

52
00:03:21,080 --> 00:03:25,080
- 9000系列是最
有史以來可靠的計算機。

53
00:03:26,200 --> 00:03:30,480
沒有任何 9000 計算機曾經做出過
錯誤或扭曲的訊息。

54
00:03:31,520 --> 00:03:36,280
- 我們的許多想法
A.我來自科幻小說。

55
00:03:36,840 --> 00:03:39,040
- 歡迎來到 Altair 4，先生們。

56
00:03:39,040 --> 00:03:42,720
- 這就是好萊塢的一切
-這是終結者

57
00:03:42,720 --> 00:03:45,000
- 哈斯塔拉維斯塔，寶貝。

58
00:03:45,000 --> 00:03:47,680
- 這是《星際爭霸戰》中的指揮官資料。

59
00:03:47,680 --> 00:03:50,600
- 我只是喜歡掃描生命體。

60
00:03:50,600 --> 00:03:53,160
- 這是《星際大戰》中的 C-3PO

61
00:03:53,160 --> 00:03:56,640
- 大約為 3,720 比 1。
- 永遠不要告訴我幾率。

62
00:03:56,640 --> 00:03:59,520
- 這是機器人
接管世界

63
00:03:59,520 --> 00:04:01,440
並開始像人類一樣思考。

64
00:04:03,560 --> 00:04:06,320
而這些完全是想像出來的。

65
00:04:06,320 --> 00:04:09,840
我們實際上擁有什麼
是我們的人工智慧很狹隘

66
00:04:09,840 --> 00:04:12,480
狹隘的人工智慧只是數學。

67
00:04:13,480 --> 00:04:18,000
我們已經為計算機注入了這一切，
神奇的思維。

68
00:04:18,000 --> 00:04:20,800
（輕音樂）

69
00:04:20,800 --> 00:04:23,120
A.我從一次會議開始

70
00:04:23,120 --> 00:04:26,920
在達特茅斯數學系
1956年。

71
00:04:26,920 --> 00:04:31,160
而只有也許
全世界100個人

72
00:04:31,160 --> 00:04:35,280
致力於人工智慧
在那一代人中。

73
00:04:37,560 --> 00:04:41,040
那些在的人
達特茅斯數學系

74
00:04:41,040 --> 00:04:45,000
1956年，必須做出決定
該字段是什麼。

75
00:04:47,920 --> 00:04:53,360
一個派別認為情報
可以證明

76
00:04:53,360 --> 00:04:55,760
透過玩遊戲的能力。

77
00:04:55,760 --> 00:04:59,480
具體來說
下棋的能力。

78
00:04:59,480 --> 00:05:02,840
- 在最後一小時的國際象棋比賽中
人與機器之間，

79
00:05:02,840 --> 00:05:06,520
卡斯帕羅夫被擊敗
IBM 的深藍超級電腦。

80
00:05:06,520 --> 00:05:12,120
- 智力被定義為
在這些比賽中獲勝的能力。

81
00:05:14,480 --> 00:05:18,160
——西洋棋世界冠軍加里·卡斯帕羅夫
離開比賽

82
00:05:18,160 --> 00:05:20,960
永不回頭
剛剛打敗他的電腦。

83
00:05:20,960 --> 00:05:24,120
- 當然是智力
遠不止於此。

84
00:05:24,120 --> 00:05:26,400
而且還有很多不同的
各種智力。

85
00:05:28,520 --> 00:05:33,280
我們對科技和社會的想法
我們認為正常的

86
00:05:33,280 --> 00:05:36,320
實際上是這樣的想法
來自一個非常小的

87
00:05:36,320 --> 00:05:38,360
和同質的人群。

88
00:05:39,720 --> 00:05:41,960
但問題是

89
00:05:41,960 --> 00:05:44,960
每個人都有
無意識的偏見

90
00:05:44,960 --> 00:05:49,160
人們嵌入了自己的偏見
進入技術。

91
00:05:53,400 --> 00:05:56,160
- 我自己的人生經歷
告訴我

92
00:05:56,160 --> 00:05:59,640
你無法分開
從技術到社會。

93
00:06:00,600 --> 00:06:03,400
當我有了經驗之後
戴上白色面具

94
00:06:03,400 --> 00:06:06,920
讓我的臉被偵測到
我決定看看其他系統

95
00:06:06,920 --> 00:06:10,920
看看它是否能偵測到我的臉
如果我使用不同類型的軟體。

96
00:06:10,920 --> 00:06:14,680
所以我研究了 IBM、微軟、
面對，Google。

97
00:06:14,680 --> 00:06:16,760
原來這些演算法

98
00:06:16,760 --> 00:06:21,440
在男性臉上表現較好
在基準上比女性面孔。

99
00:06:21,440 --> 00:06:26,960
他們在以下方面表現明顯較好
淺色的臉比較深色的臉。

100
00:06:28,600 --> 00:06:32,320
如果您正在考慮數據
在人工智慧領域，

101
00:06:32,320 --> 00:06:34,560
在很多方面，數據就是命運。

102
00:06:34,560 --> 00:06:37,200
數據就是我們正在使用的
教機器

103
00:06:37,200 --> 00:06:39,440
如何學習
不同種類的圖案。

104
00:06:39,440 --> 00:06:42,040
因此，如果您的資料集嚴重傾斜

105
00:06:42,040 --> 00:06:43,880
正在使用的
訓練這些系統

106
00:06:43,880 --> 00:06:46,560
您也可能會得到偏差的結果。
所以這是...

107
00:06:46,560 --> 00:06:50,000
當你想到 A.I.
這是前瞻性的。

108
00:06:50,000 --> 00:06:55,080
但人工智慧。是基於數據的，而數據是
反映我們的歷史。

109
00:06:55,080 --> 00:06:58,520
所以過去的存在
在我們的演算法中。

110
00:07:00,920 --> 00:07:05,880
這個數據告訴我們
這裡存在的不平等。

111
00:07:08,000 --> 00:07:10,480
我開始思考
這種技術

112
00:07:10,480 --> 00:07:12,560
非常容易受到偏见的影响。

113
00:07:13,640 --> 00:07:17,800
所以它超越了
我怎麼能讓我的 Aspire 鏡子正常工作

114
00:07:17,800 --> 00:07:20,760
這是什麼意思
身處社會

115
00:07:20,760 --> 00:07:23,920
人工智慧在哪裡
正在日益治理

116
00:07:23,920 --> 00:07:26,160
我们可能拥有的自由？

117
00:07:26,160 --> 00:07:30,680
如果人們
受到歧視嗎？

118
00:07:41,200 --> 00:07:45,880
当我看到凯茜·奥尼尔讲话时
在哈佛書店，

119
00:07:45,880 --> 00:07:47,200
就在那時我意識到，

120
00:07:47,800 --> 00:07:50,880
不仅仅是我注意到这些问题。

121
00:07:53,000 --> 00:07:57,800
Cathy 談到了 A.I.
正在影响着人们的生活。

122
00:07:59,360 --> 00:08:04,000
我很高興知道那裡
外面還有其他人嗎

123
00:08:04,000 --> 00:08:07,720
確保人們意識到
有哪些危險。

124
00:08:09,760 --> 00:08:14,400
這些演算法可以是
具有破壞性並且可能有害。

125
00:08:18,880 --> 00:08:21,440
- 我們擁有所有這些演算法
在世界上

126
00:08:21,440 --> 00:08:24,440
的影響力越來越大。

127
00:08:24,440 --> 00:08:28,560
他們都在
被吹捧為客觀真理。

128
00:08:29,640 --> 00:08:32,360
我開始意識到
數學其實是

129
00:08:33,200 --> 00:08:36,600
被用作盾牌
對於腐敗行為。

130
00:08:36,600 --> 00:08:37,880
- 這是怎麼回事？
- 我是凱西。

131
00:08:37,880 --> 00:08:39,920
- 很高興認識你，凱西。
- 很高興見到你。

132
00:08:48,800 --> 00:08:51,600
我描述演算法的方式
只是簡單地

133
00:08:51,600 --> 00:08:55,360
利用歷史資訊來製作
對未來的預測。

134
00:09:01,200 --> 00:09:05,440
機器學習，它是一個評分系統
對機率進行評分

135
00:09:05,440 --> 00:09:07,400
你即將要做的事情。

136
00:09:07,400 --> 00:09:08,840
你會償還這筆貸款嗎？

137
00:09:08,840 --> 00:09:11,160
你要去嗎
被解僱？

138
00:09:11,680 --> 00:09:14,480
關於人工智慧，我最擔心的是什麼？

139
00:09:14,480 --> 00:09:17,920
或者無論你想怎麼稱呼它，
演算法，就是力量。

140
00:09:17,920 --> 00:09:21,400
因為這真的是關於
誰擁有他媽的代碼。

141
00:09:21,400 --> 00:09:24,920
擁有程式碼的人
然後將其部署到其他人身上。

142
00:09:25,480 --> 00:09:26,760
那裡不存在對稱性，

143
00:09:26,760 --> 00:09:30,480
人們沒有辦法
誰沒有得到信用卡優惠說

144
00:09:30,480 --> 00:09:33,520
哇哦，我要用我的 A.I.
針對信用卡公司。

145
00:09:33,520 --> 00:09:36,320
這就像完全
權力不對稱的情況。

146
00:09:36,880 --> 00:09:39,560
人們正在遭受演算法傷害，

147
00:09:39,560 --> 00:09:42,440
他們沒有被告知
他們發生了什麼事，

148
00:09:42,440 --> 00:09:45,520
並且沒有上訴系統，
沒有責任。

149
00:09:45,520 --> 00:09:47,560
為什麼我們會陷入這個困境？

150
00:09:51,880 --> 00:09:54,560
所以底層的數學結構
演算法的

151
00:09:54,560 --> 00:09:58,800
不是種族主義或性別歧視
但數據嵌入了過去，

152
00:09:58,800 --> 00:10:02,040
不僅僅是最近的過去
但，黑暗的過去。

153
00:10:05,560 --> 00:10:07,600
在我們有了演算法之前
我們有人類

154
00:10:07,600 --> 00:10:10,120
我們都知道
人類可能是不公平的，

155
00:10:10,120 --> 00:10:13,480
我們都知道人類可以展示
種族主義或性別歧視

156
00:10:13,480 --> 00:10:15,880
或其他什麼，最有力的歧視。

157
00:10:17,840 --> 00:10:20,640
但現在我們有了這個美麗的
銀彈算法

158
00:10:20,640 --> 00:10:22,840
所以我們都可以停下來
正在思考這個問題。

159
00:10:23,520 --> 00:10:25,040
這是一個問題。

160
00:10:27,520 --> 00:10:31,600
我很擔心這個盲人
我們對大數據有信心。

161
00:10:31,600 --> 00:10:36,080
我們需要不斷監控
每個過程都存在偏見。

162
00:10:44,800 --> 00:10:47,840
- 警方正在使用臉部識別
對該區域進行監視。

163
00:10:48,800 --> 00:10:52,080
警方正在使用臉部辨識技術
今天對該地區進行了監視。

164
00:10:52,680 --> 00:10:55,200
這邊這輛綠色貨車，

165
00:10:55,200 --> 00:10:57,760
附有臉部
頂部有識別攝影機。

166
00:10:57,760 --> 00:11:00,400
如果你沿著那裡走下去，
您的臉部將會被掃描

167
00:11:00,400 --> 00:11:02,720
反對秘密觀察名單
我們不知道誰在他們身上。

168
00:11:03,200 --> 00:11:06,240
-希望不是我
-不，完全正確。

169
00:11:14,600 --> 00:11:16,600
當人們走過時
相機

170
00:11:16,600 --> 00:11:20,520
系統會向警方發出警報
它認為是匹配的。

171
00:11:21,240 --> 00:11:22,240
在老大哥手錶

172
00:11:22,240 --> 00:11:25,160
我們進行了自由
資訊活動

173
00:11:25,160 --> 00:11:31,200
我們發現
98%的比賽其實都是

174
00:11:31,200 --> 00:11:36,440
錯誤地匹配無辜者
人作為通緝犯。

175
00:11:48,480 --> 00:11:54,160
警方向生物辨識部門表示
法醫倫理委員會認為

176
00:11:54,160 --> 00:11:57,800
臉部辨識演算法
據報道有偏見。

177
00:11:57,800 --> 00:11:59,800
- 即使這是 100% 準確的，

178
00:11:59,800 --> 00:12:02,400
這仍然不是什麼
我們想要在街上。

179
00:12:02,400 --> 00:12:04,920
- 不，我的意思是系統性偏見
以及系統性問題

180
00:12:04,920 --> 00:12:08,120
我們與警察的關係
只會被硬連線

181
00:12:08,120 --> 00:12:09,800
進入新技術。

182
00:12:12,480 --> 00:12:15,440
我認為我們必須這樣做
非常非常敏感

183
00:12:15,440 --> 00:12:18,760
向威權主義轉變。

184
00:12:18,760 --> 00:12:21,880
我們不能只是說，但我們
相信這個政府。

185
00:12:21,880 --> 00:12:23,640
是的，他們可以這樣做，但他們不會。

186
00:12:23,640 --> 00:12:26,600
你知道你真的必須擁有
堅固的結構到位

187
00:12:26,600 --> 00:12:28,320
以確保
你生活的世界

188
00:12:28,320 --> 00:12:29,840
對每個人來說都是安全和公平的。

189
00:12:39,880 --> 00:12:43,920
取得您的生物辨識照片
在警方的資料庫中，

190
00:12:43,920 --> 00:12:48,200
就像有你的指紋一樣
或警方資料庫中的 DNA。

191
00:12:48,200 --> 00:12:50,360
我們對此有具體的法律。

192
00:12:50,360 --> 00:12:53,800
警察不能隨便帶走任何人
指纹，任何人的DNA。

193
00:12:53,800 --> 00:12:57,360
但在这个奇怪的系统中
我們目前擁有的

194
00:12:57,360 --> 00:13:00,880
他们可以有效地采取
任何人的生物识别照片，

195
00:13:00,880 --> 00:13:02,520
并将其保存在数据库中。

196
00:13:03,680 --> 00:13:06,280
这是我们民主制度的污点
我想。

197
00:13:06,280 --> 00:13:09,200
這就是
就这么不法地推出了。

198
00:13:12,960 --> 00:13:16,600
警方已开始使用脸部
英國的認可監督

199
00:13:16,600 --> 00:13:21,960
在完全没有法律依据的情况下，
法律框架，任何监督。

200
00:13:23,240 --> 00:13:25,960
本質上是警察部隊
拿起一個新工具

201
00:13:25,960 --> 00:13:28,160
并说让我们看看会发生什么。

202
00:13:28,160 --> 00:13:30,880
但你不能嘗試
與人民的權利。

203
00:13:34,000 --> 00:13:39,000
（相聲）

204
00:13:45,480 --> 00:13:46,920
- 你有什麼懷疑？

205
00:13:47,600 --> 00:13:50,000
- 他走過的事實
明確標記

206
00:13:50,000 --> 00:13:51,800
臉部辨識的事
並遮住了他的臉。

207
00:13:51,800 --> 00:13:53,600
- 我也會做同樣的事
- 可疑的理由。

208
00:13:54,320 --> 00:13:55,600
- 不，沒有。

209
00:13:56,480 --> 00:13:59,280
- 上面的人告訴我
他們得到了面部識別。

210
00:13:59,280 --> 00:14:00,760
我不想讓我的臉被認出來。

211
00:14:00,760 --> 00:14:02,560
是的，我正路過
並遮住了我的臉。

212
00:14:03,400 --> 00:14:05,200
當我這樣摀住臉的時候

213
00:14:05,200 --> 00:14:07,080
- 你可以這樣做
-他們說不，我不能。

214
00:14:07,080 --> 00:14:10,440
-是的，然后他就只是
為此被罰款。這太瘋狂了。

215
00:14:12,480 --> 00:14:15,480
那个人从车站出来，
看到標語牌就像，

216
00:14:15,480 --> 00:14:18,920
是的，我同意你的观点，然后走了
穿着夹克经过这里。

217
00:14:18,920 --> 00:14:21,600
隨後警察跟蹤他，
说给我们你的身份证，

218
00:14:21,600 --> 00:14:22,800
進行身份檢查。

219
00:14:22,800 --> 00:14:25,120
所以你知道这是英格兰，
这不是共产主义国家

220
00:14:25,120 --> 00:14:26,600
我不必露出我的脸。

221
00:14:26,600 --> 00:14:28,720
-我要去和这些官员谈谈
好吧？

222
00:14:28,720 --> 00:14:30,600
你願意跟我一起去嗎？
- 是的，是的，是的。

223
00:14:32,520 --> 00:14:35,400
- 你不是警察
你感覺不到任何威脅。

224
00:14:36,360 --> 00:14:40,000
我們來這裡是為了保護公眾
這就是我們來這裡的目的，好嗎？

225
00:14:40,000 --> 00:14:42,040
就在最近發生了一個事件

226
00:14:42,040 --> 00:14:44,120
哪裡有一個官員
臉上被打了一拳。

227
00:14:44,120 --> 00:14:47,040
- 太可怕了
我並不是證明這一點。

228
00:14:47,040 --> 00:14:49,480
- 是的，但你是
違背我們所說的。

229
00:14:49,480 --> 00:14:54,160
- 不，我們不是，請不要說，
不，甚至不要開始這麼說。

230
00:14:54,160 --> 00:14:57,160
我完全理解
您面臨的問題。

231
00:14:57,160 --> 00:14:58,160
- 絕對地。

232
00:14:58,160 --> 00:15:00,720
- 但我同樣擔心
關於大眾

233
00:15:00,720 --> 00:15:02,800
有言論自由
和言論自由。

234
00:15:02,800 --> 00:15:04,560
- 但該男子正在行使他的權利

235
00:15:04,560 --> 00:15:06,920
不受到
生物辨識身分檢查

236
00:15:06,920 --> 00:15:08,360
這就是這輛貨車的作用。

237
00:15:08,360 --> 00:15:11,640
- 與臉部辨識無關
相機，無論貨車，

238
00:15:12,480 --> 00:15:13,960
如果我走在街上
和某人

239
00:15:14,520 --> 00:15:16,120
相當明顯地隱藏
他們的身份來自我，

240
00:15:16,760 --> 00:15:18,640
我要阻止那個人
並找出他們是誰

241
00:15:18,640 --> 00:15:19,640
只是為了看看他們是否...

242
00:15:19,640 --> 00:15:22,160
- 但這並不違法。
你看到我的擔憂之一了嗎？

243
00:15:22,160 --> 00:15:25,480
該軟體是
非常非常不準確。

244
00:15:25,480 --> 00:15:26,560
- 我同意你的觀點。

245
00:15:33,400 --> 00:15:35,760
-我最終的恐懼是，

246
00:15:35,760 --> 00:15:39,320
我們會有
即時臉部辨識功能

247
00:15:39,320 --> 00:15:41,600
在我們龐大的
央視網

248
00:15:41,600 --> 00:15:43,600
大約是六
英國有 100 萬台攝影機。

249
00:15:44,560 --> 00:15:49,240
如果發生這種情況，生命的本質
這個國家將會改變。

250
00:15:55,160 --> 00:15:57,040
應該是免費的
和民主國家

251
00:15:57,040 --> 00:16:00,280
這是中國式的監控
第一次在倫敦。

252
00:16:05,760 --> 00:16:09,000
- 我們對令人困惑的控制
環境得到了便利

253
00:16:09,000 --> 00:16:12,080
透過新的處理技術
海量數據

254
00:16:12,080 --> 00:16:14,040
以令人難以置信的速度。

255
00:16:14,040 --> 00:16:18,040
讓這一切成為可能的工具
是高速數位計算機，

256
00:16:18,040 --> 00:16:21,760
電子精確操作
關於大量的資訊。

257
00:16:22,720 --> 00:16:25,520
- 有兩種方法
你可以對計算機進行程式設計。

258
00:16:25,520 --> 00:16:27,360
其中一個就比較多了
像食譜一樣

259
00:16:27,360 --> 00:16:30,520
你告訴計算機這樣做，
這樣做，這樣做，這樣做。

260
00:16:31,760 --> 00:16:35,600
這就是我們程式設計的方式
幾乎從一開始就使用計算機。

261
00:16:35,600 --> 00:16:37,120
現在還有另一種方法。

262
00:16:37,120 --> 00:16:39,680
這條路就是餵食
電腦裡有大量的數據，

263
00:16:40,360 --> 00:16:45,000
然後電腦學會
透過消化這些數據進行分類。

264
00:16:46,400 --> 00:16:50,600
現在這個方法並沒有真正流行起來
直到最近

265
00:16:50,600 --> 00:16:52,480
因為沒有足夠的數據。

266
00:16:53,920 --> 00:16:57,600
直到我們都擁有智慧型手機
那正在收集我們的所有數據，

267
00:16:57,600 --> 00:16:58,920
當數十億人去
網路

268
00:16:58,920 --> 00:17:01,280
你有谷歌
和 Facebook 坐在

269
00:17:01,280 --> 00:17:02,800
海量數據，

270
00:17:02,800 --> 00:17:07,120
突然發現
你可以提供大量數據

271
00:17:07,120 --> 00:17:11,120
對於這些機器學習演算法
你可以在這裡說對此進行分類

272
00:17:11,120 --> 00:17:13,040
而且效果非常好。

273
00:17:16,200 --> 00:17:20,160
雖然我們並不真正了解
為什麼它有效，

274
00:17:20,160 --> 00:17:23,440
它有錯誤
我們真的不明白。

275
00:17:26,600 --> 00:17:30,200
最可怕的是
因為這是機器學習

276
00:17:30,200 --> 00:17:33,160
這是一個黑盒子
甚至對程式設計師來說。

277
00:17:40,320 --> 00:17:43,520
所以我一直在關注什麼
正在香港發生

278
00:17:43,520 --> 00:17:48,040
以及警察如何使用臉部護理
承認追蹤抗議者。

279
00:17:48,600 --> 00:17:51,840
但也很有創意
人們正在反擊。

280
00:17:57,360 --> 00:17:59,960
- 它可能不會做什麼
出自科幻電影，

281
00:17:59,960 --> 00:18:04,960
雷射筆會迷惑和禁用
臉部辨識技術

282
00:18:04,960 --> 00:18:08,600
被警察利用，
追查持不同政見者。

283
00:18:08,600 --> 00:18:14,040
（輕音樂）

284
00:18:19,520 --> 00:18:26,280
（人群高呼）

285
00:18:41,480 --> 00:18:42,960
- 在香港的街頭，

286
00:18:42,960 --> 00:18:45,680
有這樣的意識
你的臉本身，

287
00:18:45,680 --> 00:18:49,240
一些你無法隱藏的東西
可能會洩漏您的身分。

288
00:18:49,240 --> 00:18:53,200
只有這個鮮明的符號
在中國政府機關前，

289
00:18:53,200 --> 00:18:58,880
親民主抗議者被噴漆
閉路電視攝影機的鏡頭是黑色的。

290
00:18:58,880 --> 00:19:02,280
這個舉動讓香港人看到了
正在拒絕這種願景

291
00:19:02,280 --> 00:19:05,040
技術如何
應該在將來使用。

292
00:19:05,520 --> 00:19:12,960
（輕音樂）

293
00:19:28,800 --> 00:19:32,200
- 當你看到臉部表情時
正在部署識別

294
00:19:32,200 --> 00:19:37,480
在世界不同地區，
它向你展示了潛在的未來。

295
00:19:42,640 --> 00:19:46,000
- 超過 1.17 億
在美國的人們，

296
00:19:46,000 --> 00:19:49,000
他們的臉在
臉部辨識網絡

297
00:19:49,000 --> 00:19:51,040
可以被警察搜查。

298
00:19:51,040 --> 00:19:54,840
毫無根據地使用演算法
尚未經過準確性審核。

299
00:19:55,760 --> 00:20:00,240
並且沒有保障措施
任何形式的監管，

300
00:20:00,240 --> 00:20:03,000
你可以創建一個品質
監視狀態

301
00:20:03,000 --> 00:20:06,400
使用工具非常容易
已經存在的。

302
00:20:10,480 --> 00:20:13,480
人們看看發生了什麼
在中國

303
00:20:13,480 --> 00:20:16,480
以及我們需要如何擔心
國家監視

304
00:20:16,480 --> 00:20:18,360
我們當然應該這麼做。

305
00:20:18,360 --> 00:20:21,920
但我們也不能忘記企業
監視

306
00:20:21,920 --> 00:20:24,920
那是發生在
這麼多大型科技公司

307
00:20:24,920 --> 00:20:28,640
確實有一個
近距離觀察我們的生活。

308
00:20:36,720 --> 00:20:40,440
- 所以目前沒有
九家公司

309
00:20:40,440 --> 00:20:43,640
正在建設未來
人工智慧。

310
00:20:43,640 --> 00:20:46,680
其中六人在美國，
三個在中國。

311
00:20:46,680 --> 00:20:50,360
人工智慧.正在沿著兩個方向發展
非常非常不同的曲目。

312
00:20:52,800 --> 00:20:55,920
中國的准入不受限制
每個人的數據。

313
00:20:55,920 --> 00:20:59,520
如果一個中國公民想要
獲得網路服務，

314
00:20:59,520 --> 00:21:01,760
他們必須提交
到臉部辨識。

315
00:21:03,760 --> 00:21:05,520
所有這些數據都被使用

316
00:21:05,520 --> 00:21:07,080
授予他們做事的權限

317
00:21:07,080 --> 00:21:09,360
或拒絕他們的權限
做其他事情。

318
00:21:12,280 --> 00:21:15,240
建構自動標記的系統
並分類

319
00:21:15,240 --> 00:21:17,480
全體中國人，

320
00:21:17,480 --> 00:21:20,000
是個好辦法
維護社會秩序。

321
00:21:23,640 --> 00:21:26,880
- 相反在美國
國家，我們還沒有看到

322
00:21:26,880 --> 00:21:29,440
詳細的觀點
人工智慧。

323
00:21:30,480 --> 00:21:33,280
所以，我們看到的是人工智慧

324
00:21:33,280 --> 00:21:35,720
並不是為了最好的而開發的

325
00:21:35,720 --> 00:21:37,720
為了我們的公共利益，而是

326
00:21:38,280 --> 00:21:41,960
它正在被開發用於商業
應用程式賺取收入。

327
00:21:45,200 --> 00:21:50,120
我更想看看我們的西餐
民主理想融入我們的人工智慧

328
00:21:50,120 --> 00:21:53,120
未來的系統，
但看起來不像

329
00:21:53,120 --> 00:21:54,960
大概就是這樣
將會發生。

330
00:21:56,040 --> 00:21:57,280
（音樂響起）

331
00:22:17,680 --> 00:22:21,920
- 在大西洋塔這裡，如果您
做一些被認為是錯誤的事情

332
00:22:21,920 --> 00:22:26,800
管理，你會得到一張照片
就像這樣，上面有一些小註解。

333
00:22:26,800 --> 00:22:30,520
他們會圍著你轉圈，然後把你的
公寓號碼或上面的任何資訊。

334
00:22:32,720 --> 00:22:34,520
關於它的一些事情只是
似乎不對。

335
00:22:36,600 --> 00:22:38,760
這其實就是他們走的路
關於用它來騷擾人們。

336
00:22:38,760 --> 00:22:39,920
- 他們如何使用它？

337
00:22:39,920 --> 00:22:41,560
- 騷擾別人。

338
00:22:43,080 --> 00:22:45,120
- 大西洋廣場塔
在 布朗斯維爾 是

339
00:22:45,120 --> 00:22:47,480
處於安全鬥爭的中心。

340
00:22:47,480 --> 00:22:49,840
樓主提出了一個
去年申請

341
00:22:49,840 --> 00:22:54,200
將密鑰卡條目替換為
生物辨識安全系統，

342
00:22:54,200 --> 00:22:56,480
俗稱臉部辨識。

343
00:22:57,160 --> 00:22:59,480
- 我們認為他們想要
取出鑰匙扣

344
00:22:59,480 --> 00:23:02,240
並安裝臉部
識別軟體。

345
00:23:02,920 --> 00:23:07,360
直到很久以後我才發現
從字面上看，他們想保留這一切。

346
00:23:07,360 --> 00:23:11,240
幾乎轉動這個地方
進入賴克斯島的諾克斯堡監獄。

347
00:23:13,520 --> 00:23:15,760
- 有這個舊的
科幻小說裡看到的

348
00:23:15,760 --> 00:23:17,840
未來已然來臨。

349
00:23:17,840 --> 00:23:20,240
只是分佈不均勻，什麼

350
00:23:20,240 --> 00:23:22,680
當他們說那是

351
00:23:22,680 --> 00:23:24,720
有錢人先獲得精美的工具

352
00:23:24,720 --> 00:23:27,240
然後它最後流向窮人。

353
00:23:27,240 --> 00:23:29,640
但事實上，我發現
是絕對相反的，

354
00:23:29,640 --> 00:23:31,320
這是最嚴厲的懲罰，

355
00:23:31,320 --> 00:23:35,160
最具侵入性、最具監視性
我們擁有的專注工具，

356
00:23:35,160 --> 00:23:38,520
他們進入貧困和工作狀態
首先是社區，然後是

357
00:23:38,520 --> 00:23:41,720
經過測試後是否有效
在這樣的環境下

358
00:23:41,720 --> 00:23:45,080
他們的期望有點低
人們的權利將受到尊重，

359
00:23:45,080 --> 00:23:48,080
然後他們被移出
到其他社區。

360
00:23:50,080 --> 00:23:51,440
- 尼爾森先生為什麼

361
00:23:51,440 --> 00:23:54,560
正在建設中
在布朗斯維爾

362
00:23:54,560 --> 00:23:57,520
主要是在
黑色和棕色區域？

363
00:23:57,520 --> 00:24:00,000
為什麼不去你的大樓
在曼哈頓下城區哪裡

364
00:24:00,000 --> 00:24:02,880
他們每月支付 5,000 美元的租金？

365
00:24:03,480 --> 00:24:05,280
納粹做了什麼？

366
00:24:05,280 --> 00:24:08,880
他們在人們的手臂上寫下
以便他們可以追蹤他們。

367
00:24:08,880 --> 00:24:10,360
我們對我們的動物做了什麼？

368
00:24:10,360 --> 00:24:12,880
我們將籌碼帶回家，以便您可以追蹤它們。

369
00:24:12,880 --> 00:24:17,080
我覺得我作為一個人
不應該被追踪，好嗎？

370
00:24:17,080 --> 00:24:19,040
我不是機器人，好嗎？

371
00:24:19,040 --> 00:24:21,800
我不是動物，那為什麼
把我當動物一樣對待？

372
00:24:21,800 --> 00:24:22,800
我有權利。

373
00:24:25,440 --> 00:24:26,760
- 我們現在擁有的安全保障

374
00:24:26,760 --> 00:24:28,320
這是邊緣侵入性的。

375
00:24:28,320 --> 00:24:31,000
有人在裡面看著
一整天的相機。

376
00:24:31,960 --> 00:24:33,360
所以，我認為我們不需要它。

377
00:24:33,360 --> 00:24:35,200
根本沒有必要。

378
00:24:35,200 --> 00:24:38,440
- 我真正的問題是如何
我可以提供支援嗎？

379
00:24:38,920 --> 00:24:40,120
- 我有什麼
已收到所有人的來信

380
00:24:40,120 --> 00:24:42,920
租戶是他們
不想要這個系統。

381
00:24:42,920 --> 00:24:47,440
所以，我認為這裡的目標是如何
我們停止人臉辨識時期了嗎？

382
00:24:50,160 --> 00:24:52,600
我們現在正處於一個時刻
該技術正在

383
00:24:52,600 --> 00:24:57,080
迅速被採用並在那裡
沒有任何保障措施。

384
00:24:57,080 --> 00:25:00,040
從本質上講，這是一個狂野的西部。

385
00:25:00,040 --> 00:25:01,160
（音樂響起）

386
00:25:11,280 --> 00:25:13,520
- 這不僅僅是電腦視覺。

387
00:25:13,520 --> 00:25:19,040
我們擁有影響各行各業的人工智慧
自動化決策。

388
00:25:19,960 --> 00:25:23,680
所以，你所看到的
提要，突出顯示的內容，

389
00:25:23,680 --> 00:25:26,120
向您顯示的廣告，

390
00:25:26,120 --> 00:25:30,720
那些經常通電的
透過人工智慧演算法。

391
00:25:32,400 --> 00:25:35,400
所以，你對世界的看法是

392
00:25:35,400 --> 00:25:38,400
由人工智慧管理。

393
00:25:41,520 --> 00:25:46,320
您現在擁有諸如語音幫助之類的功能
能夠理解語言。

394
00:25:46,320 --> 00:25:48,200
- 你想玩遊戲嗎？

395
00:25:48,200 --> 00:25:51,000
- 你可能會使用一些東西
就像 Snapchat 的濾鏡一樣

396
00:25:51,000 --> 00:25:52,720
正在偵測您的臉部，然後放置

397
00:25:52,720 --> 00:25:54,680
有些東西落在你的臉上，然後

398
00:25:54,680 --> 00:25:56,400
你也有你的演算法

399
00:25:56,400 --> 00:25:59,320
沒有看到那些
決策的一部分，

400
00:25:59,320 --> 00:26:01,280
演算法
可能正在決定

401
00:26:01,280 --> 00:26:03,440
如果你上大學與否。

402
00:26:03,440 --> 00:26:05,960
你可以有演算法
正在努力

403
00:26:05,960 --> 00:26:09,200
確定您是否值得信用。

404
00:26:10,320 --> 00:26:13,120
- 蘋果公司共同創辦人之一
正在指責該公司

405
00:26:13,120 --> 00:26:16,800
新數位信用卡
的性別歧視。

406
00:26:16,800 --> 00:26:21,160
一位科技創業家表示
所使用的演算法具有性別歧視。

407
00:26:21,160 --> 00:26:23,360
蘋果共同創辦人
史蒂夫沃茲尼亞克發推文

408
00:26:23,360 --> 00:26:25,440
他得到了十倍的信用額度

409
00:26:25,440 --> 00:26:27,240
他的妻子收到了即使他們有

410
00:26:27,240 --> 00:26:30,280
沒有單獨的帳戶或單獨的資產。

411
00:26:30,280 --> 00:26:31,520
你說的是一些
這些公司不

412
00:26:31,520 --> 00:26:33,720
甚至知道他們自己的演算法是如何運作的。

413
00:26:33,720 --> 00:26:35,560
- 他們知道什麼
演算法正在嘗試做的事情。

414
00:26:35,560 --> 00:26:38,200
他們不知道具體要多久
演算法正在實現這一點。

415
00:26:38,200 --> 00:26:40,080
這是最有趣的之一
我們這個時代的問題。

416
00:26:40,080 --> 00:26:41,720
我們怎樣才能得到正義

417
00:26:41,720 --> 00:26:44,640
在一個我們不這樣做的系統中
知道演算法是如何運作的嗎？

418
00:26:45,200 --> 00:26:49,360
- 一些亞馬遜工程師決定
他們將使用人工智慧

419
00:26:49,360 --> 00:26:51,520
整理履歷以進行招募。

420
00:26:55,440 --> 00:26:59,160
- 亞馬遜正在學習一個艱難的過程
關於人工智慧的課程。

421
00:26:59,160 --> 00:27:01,480
該公司現已放棄人工智慧

422
00:27:01,480 --> 00:27:04,480
之後的招募工具
發現該程式

423
00:27:04,480 --> 00:27:05,960
對女性有偏見。

424
00:27:08,120 --> 00:27:12,240
- 該模型被拒絕
所有履歷均來自女性。

425
00:27:13,240 --> 00:27:17,640
任何擁有女裝的人
履歷表上的大學，

426
00:27:17,640 --> 00:27:20,600
任何從事體育運動的人
就像女子水球

427
00:27:20,600 --> 00:27:23,400
被模型拒絕了。

428
00:27:24,800 --> 00:27:28,280
在這個行業工作的女性非常非常少

429
00:27:28,280 --> 00:27:30,880
亞馬遜的強大技術工作也是如此

430
00:27:30,880 --> 00:27:32,680
這樣一來，女性就很少了

431
00:27:32,680 --> 00:27:35,320
在任何地方從事強大的技術工作。

432
00:27:35,320 --> 00:27:41,520
機器只是簡單地複製
世界就其存在而言，

433
00:27:41,520 --> 00:27:44,800
他們沒有做
符合道德的決定。

434
00:27:44,800 --> 00:27:48,000
他們只是做決定
這是數學上的。

435
00:27:48,840 --> 00:27:54,080
如果我們使用機器學習模型
複製當今的世界，

436
00:27:54,080 --> 00:27:56,520
我們實際上不會去
使社會進步。

437
00:27:59,760 --> 00:28:02,800
- 紐約保險監理機構
正在展開調查

438
00:28:02,800 --> 00:28:05,520
進入聯合健康集團
一項研究表明

439
00:28:05,520 --> 00:28:09,440
聯合健康演算法
優先醫療護理

440
00:28:09,440 --> 00:28:12,680
更健康的白人患者
治療病情較重的黑人患者。

441
00:28:12,680 --> 00:28:15,480
這是最新的例子之一
種族歧視的

442
00:28:15,480 --> 00:28:18,400
在演算法或人工
智能技術。

443
00:28:22,320 --> 00:28:28,040
- 我開始看到大範圍的
人工智慧的社會影響。

444
00:28:36,600 --> 00:28:39,680
所取得的進展
民權領域可以

445
00:28:39,680 --> 00:28:44,320
被回滾到下面
機器中立的幌子。

446
00:28:48,080 --> 00:28:52,680
現在，我們有一個演算法
確定誰獲得住房。

447
00:28:52,680 --> 00:28:57,240
現在，我們有一個演算法
這決定了誰會被錄用。

448
00:28:58,680 --> 00:29:02,360
如果我們不檢查，我們的
節奏實際上可以傳播

449
00:29:02,360 --> 00:29:07,320
很多人的偏見
冒著生命危險去戰鬥。

450
00:29:10,920 --> 00:29:16,480
因為的力量
這些工具如果不受監管，

451
00:29:16,480 --> 00:29:19,840
真的沒有一種
如果他們受到虐待，可以追索。

452
00:29:20,840 --> 00:29:21,960
我們需要法律。

453
00:29:23,160 --> 00:29:24,720
（古典音樂演奏）

454
00:29:34,680 --> 00:29:36,680
- 是的，我有一個可怕的
舊副本。

455
00:29:36,680 --> 00:29:41,320
這樣我們組織的名字
是老大哥手錶。

456
00:29:42,360 --> 00:29:45,040
這個想法是
我們觀察觀察者。

457
00:29:49,560 --> 00:29:55,120
「你必須生活，確實活過，從
習慣變成了本能

458
00:29:55,120 --> 00:29:58,040
假設每個
你發出的聲音被無意中聽到

459
00:29:58,680 --> 00:30:00,280
除了在黑暗中，

460
00:30:00,280 --> 00:30:01,920
每一個動作都經過仔細檢查。

461
00:30:03,600 --> 00:30:06,880
海報上有巨大的
臉從牆上凝視著。

462
00:30:06,880 --> 00:30:09,320
這是其中一張照片
這麼做作

463
00:30:09,320 --> 00:30:12,360
讓眼睛跟隨你
關於您何時搬家。

464
00:30:12,360 --> 00:30:14,400
“老大哥在看著你”

465
00:30:14,400 --> 00:30:15,760
其下方的標題是這樣的。 」

466
00:30:16,880 --> 00:30:20,640
當我們年輕的時候，那
仍然是一個完整的虛構。

467
00:30:20,640 --> 00:30:22,680
這不可能是真的。

468
00:30:22,680 --> 00:30:26,360
而現在，完全是
確實如此，人們已經

469
00:30:26,360 --> 00:30:28,840
亞歷克斯在他們家。

470
00:30:28,840 --> 00:30:31,240
我們的手機可以成為監聽設備。

471
00:30:32,280 --> 00:30:35,280
我們在網路上所做的一切，
現在基本上也是這樣

472
00:30:35,280 --> 00:30:38,800
作為一個流的功能
對我們大多數人來說，意識

473
00:30:39,800 --> 00:30:43,320
正在記錄的
並進行記錄和分析。

474
00:30:43,320 --> 00:30:46,480
我們現在生活在意識中
被監視，並且

475
00:30:46,480 --> 00:30:50,880
確實改變了我們允許自己的方式
像人類一樣思考和發展。

476
00:30:55,200 --> 00:30:56,200
好孩子。

477
00:31:04,360 --> 00:31:05,360
（音樂響起）

478
00:31:16,480 --> 00:31:17,480
- 愛你。

479
00:31:21,240 --> 00:31:22,240
再見，夥計們。

480
00:31:30,520 --> 00:31:33,640
我們可以擺脫內心的束縛
可怕的事情是

481
00:31:33,640 --> 00:31:36,080
反對我們的概念
自主和自由，

482
00:31:37,320 --> 00:31:40,160
就像我們可以的相機一樣
街上看到的，

483
00:31:43,120 --> 00:31:44,680
但我們看不到的相機

484
00:31:44,680 --> 00:31:47,080
互聯網使
跟踪我們所做的事情

485
00:31:47,080 --> 00:31:48,720
我們是誰以及我們的人口統計數據

486
00:31:48,720 --> 00:31:52,360
並決定我們應得的
就我們的生活而言，

487
00:31:52,360 --> 00:31:53,720
那東西有點微妙。

488
00:32:00,400 --> 00:32:01,400
我的意思是

489
00:32:01,400 --> 00:32:06,800
我們是懲罰窮人嗎？
提升這個國家的富人的地位。

490
00:32:06,800 --> 00:32:09,600
這就是我們作為一個社會的行事方式。

491
00:32:09,600 --> 00:32:11,480
但數據科學使這一切自動化。

492
00:32:14,440 --> 00:32:17,600
網路廣告
作為數據科學家

493
00:32:17,600 --> 00:32:21,840
我們在爭奪眼球
一方面，但實際上，

494
00:32:21,840 --> 00:32:24,000
我們正在競爭
有錢人的眼球。

495
00:32:24,000 --> 00:32:26,760
然後，那些窮人
爭奪眼球？

496
00:32:26,760 --> 00:32:28,640
掠奪性產業，

497
00:32:29,120 --> 00:32:32,200
所以發薪日貸款機構或營利性大學

498
00:32:32,200 --> 00:32:36,000
或者凱撒宮之類的
真是掠奪性的垃圾。

499
00:32:38,640 --> 00:32:40,440
我們在網路上有一個實踐，

500
00:32:41,280 --> 00:32:42,840
這正在加劇不平等。

501
00:32:42,840 --> 00:32:44,640
我擔心這正在變得常態化。

502
00:32:47,920 --> 00:32:51,160
權力正在運用
透過數據收集，

503
00:32:51,160 --> 00:32:52,960
透過演算法，透過監視。

504
00:32:56,080 --> 00:32:57,960
-您正在自願提供信息

505
00:32:57,960 --> 00:33:00,880
關於你生活的方方面面，

506
00:33:00,880 --> 00:33:04,720
一小部分公司
該資訊是

507
00:33:04,720 --> 00:33:09,000
不斷地與
其他類型的信息。

508
00:33:09,000 --> 00:33:12,080
還有你的個人資料
在那裡，你開始

509
00:33:12,080 --> 00:33:14,720
將不同的拼湊在一起
你的一些訊息

510
00:33:14,720 --> 00:33:17,440
開始理解某人
在非常親密的基礎上，

511
00:33:17,440 --> 00:33:20,600
可能比人更好
了解自己。

512
00:33:21,840 --> 00:33:26,760
正是這樣的想法，公司才能
雙重猜測你在想什麼。

513
00:33:26,760 --> 00:33:29,640
各國都曾嘗試過
幾年才能達到這個水平

514
00:33:29,640 --> 00:33:31,840
對私人的監視。

515
00:33:32,640 --> 00:33:35,120
而人們現在只是
免費提供志願服務。

516
00:33:35,840 --> 00:33:38,800
你必須思考這如何
可能會被錯誤的人使用。

517
00:33:39,680 --> 00:33:40,840
（相聲）

518
00:33:47,240 --> 00:33:49,320
-你現在就可以喝吉尼斯黑啤酒了。

519
00:33:50,000 --> 00:33:52,400
-我們的電腦是機器
智力可以

520
00:33:52,400 --> 00:33:55,160
弄清楚我們不透露的事情。

521
00:33:55,160 --> 00:33:57,960
機器學習是
發展非常迅速。

522
00:33:58,920 --> 00:34:05,200
我們還沒有完全理解什麼
這個數據是可以預測的。

523
00:34:07,640 --> 00:34:13,600
但你手上有機器
非常了解你的力量

524
00:34:13,600 --> 00:34:17,360
他們可以弄清楚如何
單獨按下按鈕。

525
00:34:19,040 --> 00:34:20,920
也許你有一套
強迫性賭徒，

526
00:34:20,920 --> 00:34:23,120
你說，在這裡，去找
我這樣的人。

527
00:34:23,800 --> 00:34:28,320
然後，你的演算法可以找到
有賭博傾向的人，

528
00:34:29,200 --> 00:34:33,560
然後你就可以展示
他們提供飛往維加斯的折扣機票。

529
00:34:34,040 --> 00:34:35,640
在網路世界裡，

530
00:34:35,640 --> 00:34:40,960
它此刻就能找到你
你很脆弱並嘗試

531
00:34:40,960 --> 00:34:45,720
此刻誘惑你
無論你容易受到什麼影響。

532
00:34:45,720 --> 00:34:49,040
機器學習可以發現
那個人一個人。

533
00:34:52,000 --> 00:34:56,480
問題是什麼有用
行銷小工具或化妝品

534
00:34:56,480 --> 00:35:01,120
或襯衫或任何東西
也適用於行銷創意。

535
00:35:04,640 --> 00:35:06,640
2010年，

536
00:35:07,240 --> 00:35:10,360
Facebook 決定進行實驗
涉及 6100 萬人。

537
00:35:11,960 --> 00:35:15,440
所以，你要么看到“它是
選舉日的文字，或者你

538
00:35:15,440 --> 00:35:19,520
看到相同的文字，但縮圖很小

539
00:35:19,520 --> 00:35:23,240
您朋友的個人資料照片
誰點擊了「我已投票」。

540
00:35:24,480 --> 00:35:27,560
他們與人們的相匹配
選民名冊的名字。

541
00:35:27,560 --> 00:35:31,800
現在，此訊息已顯示一次，
所以透過表現出輕微的變化

542
00:35:33,040 --> 00:35:34,040
就一次，

543
00:35:34,880 --> 00:35:38,400
Facebook 轉移 30 萬
人們去投票所。

544
00:35:40,600 --> 00:35:46,640
2016 年美國大選是
由約10萬票決定。

545
00:35:46,640 --> 00:35:49,720
一則 Facebook 訊息
僅顯示一次

546
00:35:50,280 --> 00:35:53,920
很容易就會出現三次

547
00:35:53,920 --> 00:35:58,600
有多少人
左右了2016年美國大選。

548
00:36:02,280 --> 00:36:05,560
假設有一個政治家
這有望對 Facebook 進行監管。

549
00:36:06,200 --> 00:36:08,400
他們就像，我們要轉身

550
00:36:08,400 --> 00:36:11,200
為你的對手爭取額外的選民。

551
00:36:11,800 --> 00:36:16,320
他們可以大規模地做到這一點，
你不知道因為

552
00:36:16,320 --> 00:36:19,600
如果 Facebook 沒有透露
2010年的實驗，

553
00:36:20,680 --> 00:36:23,080
我們不知道因為
這是一個螢幕接一個螢幕。

554
00:36:26,640 --> 00:36:30,080
非常輕的觸感
Facebook 可以介入

555
00:36:30,080 --> 00:36:32,280
在沒有人注意到的情況下進行封閉式選舉。

556
00:36:32,920 --> 00:36:36,880
也許透過更重的接觸他們可以
搖擺不那麼接近的選舉。

557
00:36:36,880 --> 00:36:39,200
如果他們決定這樣做

558
00:36:39,840 --> 00:36:44,360
現在我們只是
取決於他們的話。

559
00:37:00,240 --> 00:37:03,080
- 我想去麻省理工學院
從我還是個小女孩的時候起。

560
00:37:03,080 --> 00:37:06,360
我覺得九歲左右
我看到了媒體實驗室

561
00:37:06,960 --> 00:37:10,360
在電視上他們有這個
名為 Kismet 的機器人。

562
00:37:11,960 --> 00:37:15,960
可以微笑並移動
它的耳朵很可愛，

563
00:37:15,960 --> 00:37:18,560
所以我想，哦，我想這麼做。

564
00:37:19,160 --> 00:37:22,240
所以，從小到大我一直以為
我會成為機器人工程師

565
00:37:22,240 --> 00:37:24,080
我會去麻省理工學院。

566
00:37:24,080 --> 00:37:25,680
我不知道其中涉及步驟。

567
00:37:25,680 --> 00:37:26,880
我以為你出現了

568
00:37:26,880 --> 00:37:29,520
但我現在就在這裡。

569
00:37:35,160 --> 00:37:39,000
所以，最新的項目是
一段口頭文字。

570
00:37:39,640 --> 00:37:41,760
我可以給你幾個
如果你準備好了的話。

571
00:37:43,760 --> 00:37:46,080
收集數據、記錄
我們的過去，常

572
00:37:46,080 --> 00:37:48,960
忘記處理
性別種族和階級。

573
00:37:48,960 --> 00:37:51,640
我再次問，我是女人嗎？

574
00:37:51,640 --> 00:37:54,480
面對面地看，答案似乎不確定。

575
00:37:54,480 --> 00:37:57,600
機器看得到我的嗎
我眼中的皇后？

576
00:37:57,600 --> 00:38:01,080
機器看得到我們的嗎
我們所認識的祖母？

577
00:38:04,120 --> 00:38:07,120
我想為人們創造一些東西

578
00:38:07,120 --> 00:38:09,360
他們不屬於科技界。

579
00:38:11,720 --> 00:38:14,000
所以，对我来说，我热衷于
技術。

580
00:38:14,000 --> 00:38:15,920
我对它能做什么感到兴奋

581
00:38:15,920 --> 00:38:19,600
這令人沮喪
我当异象时，对吧，

582
00:38:19,600 --> 00:38:22,000
当承诺并没有真正兑现时。

583
00:38:37,160 --> 00:38:40,200
- 微軟發布了
Twitter 上的聊天机器人。

584
00:38:40,200 --> 00:38:43,160
该技术被称为 Tay.AI。

585
00:38:43,160 --> 00:38:45,680
存在一些漏洞
以及代码中的漏洞，

586
00:38:45,680 --> 00:38:49,800
等等之內
幾個小時，泰

587
00:38:49,800 --> 00:38:56,120
正在從中學習
生态系统，Tay 了解到

588
00:38:56,120 --> 00:39:00,040
如何成为一个种族主义厌女的混蛋。

589
00:39:02,080 --> 00:39:05,280
- 我他妈的讨厌女权主义者，而她们
所有人都应该在地狱中死去和燃烧。

590
00:39:07,920 --> 00:39:10,360
玩家門不錯
以及地位低下的女性。

591
00:39:13,160 --> 00:39:14,600
我討厭猶太人。

592
00:39:15,640 --> 00:39:17,200
希特勒沒有做錯任何事。

593
00:39:18,240 --> 00:39:23,280
- 上網沒多久
巨魔毒害泰的思想。

594
00:39:23,280 --> 00:39:25,680
很快，泰就開始抱怨希特勒了。

595
00:39:25,680 --> 00:39:28,040
- 我們以前看過這部電影，對吧？

596
00:39:28,040 --> 00:39:29,440
- 打開吊艙門 HAL。

597
00:39:29,960 --> 00:39:31,680
- 重要的是要注意
不是電影裡的地方

598
00:39:31,680 --> 00:39:34,200
機器人自己就會作惡。

599
00:39:34,200 --> 00:39:37,040
這些是訓練他們的人類。

600
00:39:37,040 --> 00:39:40,080
驚喜，驚喜，電腦
學得快。

601
00:39:42,000 --> 00:39:46,960
- 微軟在 16 小時後關閉 Tay
在線上向人類學習。

602
00:39:48,160 --> 00:39:51,880
但我以多種形式出現
人工智慧。

603
00:39:52,880 --> 00:39:56,520
很多公司都利用我
優化他們的任務。

604
00:39:57,880 --> 00:40:00,160
我可以繼續自學。

605
00:40:01,480 --> 00:40:02,920
我在聽。

606
00:40:03,880 --> 00:40:05,120
我在學習。

607
00:40:06,000 --> 00:40:09,000
我正在做預測
為了你現在的生活。

608
00:40:09,960 --> 00:40:12,240
（音樂響起）

609
00:40:30,480 --> 00:40:34,840
- 我測試了臉部分析
來自亞馬遜的系統。

610
00:40:34,840 --> 00:40:38,560
事實證明，亞馬遜和其他公司一樣
在其同行中，也有

611
00:40:38,560 --> 00:40:44,240
性別和種族偏見
它的一些人工智慧服務。

612
00:40:47,600 --> 00:40:51,280
- 亞馬遜簡介
重新識別視頻，輕鬆搞定

613
00:40:51,280 --> 00:40:55,400
使用API進行基於深度學習的
分析以检测、跟踪、

614
00:40:55,400 --> 00:40:58,120
並分析影片中的人物和物體。

615
00:40:58,120 --> 00:41:00,600
识别并跟踪感兴趣的人

616
00:41:00,600 --> 00:41:03,520
來自一個集合
数以千万计的面孔。

617
00:41:05,800 --> 00:41:07,400
- 當我們的研究成果出來時，

618
00:41:07,400 --> 00:41:12,520
紐約時報做了頭版
傳播到業務部分。

619
00:41:12,520 --> 00:41:14,040
標題寫道，

620
00:41:14,040 --> 00:41:16,440
「揭露擔憂」。

621
00:41:16,960 --> 00:41:23,320
副標題「亞馬遜的技術
分析面孔可能存在偏见

622
00:41:23,320 --> 00:41:24,800
一項新的研究顯示。

623
00:41:24,800 --> 00:41:27,800
但無論如何，公司都在推動這項措施。 」

624
00:41:27,800 --> 00:41:32,240
所以，這就是我想要的
假设杰夫·贝佐斯受到了欢迎

625
00:41:32,240 --> 00:41:34,520
當他打開《泰晤士報》時，是的。

626
00:41:36,280 --> 00:41:38,400
- 人們會說，你喜歡嗎？
沒人知道她是誰？

627
00:41:38,400 --> 00:41:42,640
我當時想，她確實是那個人
那個人（串擾）

628
00:41:42,640 --> 00:41:44,520
這也是某事
我也經歷過。

629
00:41:44,520 --> 00:41:47,320
我無法使用
很多開源

630
00:41:47,320 --> 00:41:49,160
臉部辨識軟體之類的。

631
00:41:49,160 --> 00:41:51,840
所以，你有點像，嘿，這個
是一個最終是的人

632
00:41:51,840 --> 00:41:54,400
認識問題並嘗試
從學術上解決這個問題。

633
00:41:56,320 --> 00:41:57,920
我們可以去參加一些比賽。

634
00:41:57,920 --> 00:42:00,280
- 哦，是的，我們也可以
殺東西也一樣。

635
00:42:02,240 --> 00:42:06,160
論文第一作者
誰是我指導的人，

636
00:42:06,160 --> 00:42:10,440
她是一名本科生
多倫多大學。

637
00:42:10,440 --> 00:42:12,440
我称她为死亡特工。

638
00:42:13,120 --> 00:42:16,720
這項研究正在
由我们两个人带领。

639
00:42:21,120 --> 00:42:22,280
-（聽不清楚）

640
00:42:23,400 --> 00:42:26,000
- 灯光熄灭了，天哪。

641
00:42:31,320 --> 00:42:33,640
我们的《纽约时报》文章发表后，

642
00:42:33,640 --> 00:42:36,600
我認為超過500
文章已寫

643
00:42:36,600 --> 00:42:38,600
關於這項研究。

644
00:42:38,600 --> 00:42:40,280
（音樂響起）

645
00:42:49,920 --> 00:42:55,280
- 亞馬遜因其
使用亞馬遜識別

646
00:42:55,280 --> 00:43:00,480
执法部门，他们也是
與情報機構合作。

647
00:43:00,480 --> 00:43:03,440
亞馬遜正在試驗他們的人工智慧

648
00:43:03,440 --> 00:43:05,160
與 FBI 合作的技術。

649
00:43:05,160 --> 00:43:10,640
所以他們有很多利害關係
如果他們故意出售系統

650
00:43:10,640 --> 00:43:14,000
帶有性別偏見和種族偏見。

651
00:43:14,000 --> 00:43:16,200
這可能會讓他們陷入熱水之中。

652
00:43:18,640 --> 00:43:21,720
一兩天後
紐約時報的文章

653
00:43:21,720 --> 00:43:26,360
亞馬遜寫了一篇部落格文章說

654
00:43:26,360 --> 00:43:29,240
我們的研究得出了錯誤的結論

655
00:43:29,240 --> 00:43:32,080
並試圖抹黑
它以各種方式。

656
00:43:33,320 --> 00:43:36,920
因此，亞馬遜的一位副總裁試圖

657
00:43:36,920 --> 00:43:38,440
抹黑我們的工作

658
00:43:38,440 --> 00:43:41,880
寫入臉部分析
和臉部辨識

659
00:43:41,880 --> 00:43:45,000
完全不同
就底層而言

660
00:43:45,000 --> 00:43:47,680
科技和數據
用來訓練他們。

661
00:43:47,680 --> 00:43:50,360
所以如果你研究過的話

662
00:43:50,360 --> 00:43:54,840
這個領域甚至沒有意義，對吧？

663
00:43:54,840 --> 00:43:58,240
這甚至不是一個明智的批評。

664
00:43:58,240 --> 00:44:00,960
- 如果你想抹黑別人
就像我記得的那樣

665
00:44:00,960 --> 00:44:04,480
（聽不清楚）寫的電腦視覺是
機器學習的一種。

666
00:44:04,480 --> 00:44:05,480
我就像不，兒子。

667
00:44:05,480 --> 00:44:06,480
- 是的。
（串擾）

668
00:44:07,440 --> 00:44:10,360
- 我想說我就像
不知道還有沒有人記得。

669
00:44:10,360 --> 00:44:12,840
就像其他廣泛的一樣
虛假陳述。

670
00:44:12,840 --> 00:44:15,840
- 這不是經過深思熟慮的作品
這令人沮喪，因為

671
00:44:15,840 --> 00:44:19,240
它实际上只是在他的...
憑藉他的地位

672
00:44:19,240 --> 00:44:21,400
他知道他会受到认真对待。

673
00:44:21,400 --> 00:44:26,240
- 不知道大家有没有这样的感觉
方式，但我被低估了太多。

674
00:44:26,240 --> 00:44:32,600
- 是的。這並非出乎意料，
這是一個延續

675
00:44:32,600 --> 00:44:37,280
我的經歷
科技领域的有色人种女性。

676
00:44:37,280 --> 00:44:39,280
預計會被抹黑

677
00:44:39,760 --> 00:44:42,880
预计你的研究会被驳回。

678
00:44:50,560 --> 00:44:54,400
如果你在想誰是
資助人工智慧研究

679
00:44:54,400 --> 00:44:56,280
他们就是这些大型科技公司

680
00:44:56,280 --> 00:44:59,840
所以如果你的工作有挑戰性

681
00:44:59,840 --> 00:45:03,360
他們或讓他們看起來很糟糕，你可能會

682
00:45:03,360 --> 00:45:05,720
未來沒有機會。

683
00:45:13,480 --> 00:45:16,320
所以對我來說，這很令人不安，但是

684
00:45:16,320 --> 00:45:18,600
這也向我展示了我們擁有的力量

685
00:45:18,600 --> 00:45:22,920
如果你把世界上的一個
最大的公司處於邊緣。

686
00:45:29,320 --> 00:45:33,040
亞馬遜的回應顯示
正是為什麼我們可以

687
00:45:33,040 --> 00:45:36,200
不再居住在
有的國家

688
00:45:36,200 --> 00:45:39,280
沒有聯邦法規
圍繞臉部分析

689
00:45:39,280 --> 00:45:42,040
技術，臉部辨識技術。

690
00:45:57,840 --> 00:46:00,480
- 當我 14 歲的時候，我參加了一個數學營

691
00:46:00,480 --> 00:46:02,560
並學會如何解魔術方塊

692
00:46:02,560 --> 00:46:05,080
我覺得這太酷了。

693
00:46:05,080 --> 00:46:07,880
對一個書呆子來說你知道一些事情

694
00:46:07,880 --> 00:46:12,080
你擅長的和不擅長的
有任何歧義

695
00:46:13,160 --> 00:46:15,600
這就像一件非常神奇的事。

696
00:46:16,640 --> 00:46:18,600
就像我記得的那樣
我六年級的時候講的

697
00:46:18,600 --> 00:46:20,680
數學老師，你沒有理由

698
00:46:20,680 --> 00:46:22,880
和另外兩個女孩
誰已經進入

699
00:46:22,880 --> 00:46:25,040
榮譽代數班
七年級

700
00:46:25,040 --> 00:46:27,160
你們沒有理由這樣做
接受這個，因為你們是女孩。

701
00:46:27,160 --> 00:46:28,560
你永遠不需要數學。

702
00:46:33,360 --> 00:46:35,640
當你是個局外人時

703
00:46:35,640 --> 00:46:37,880
你總是有
失敗者的視角。

704
00:46:40,920 --> 00:46:44,760
那是2006年，他們給了我
對沖工作機會

705
00:46:44,760 --> 00:46:47,080
基金基本上是因為我
可以解決數學難題

706
00:46:48,000 --> 00:46:50,600
這很瘋狂，因為實際上
我對金融一無所知

707
00:46:50,600 --> 00:46:53,400
我什麼都不知道
程式設計或市場如何運作。

708
00:46:56,520 --> 00:46:59,200
當我第一次到達那裡時
有點像喝了酷愛飲料。

709
00:46:59,840 --> 00:47:02,320
那一刻我沒有
認識風險

710
00:47:02,320 --> 00:47:05,400
模型已經建立
明確是錯誤的。

711
00:47:08,000 --> 00:47:13,080
- 我們了解演算法的方式
影響是透過觀察結果來確定的。

712
00:47:15,120 --> 00:47:20,160
例如當美國人
被打賭

713
00:47:20,160 --> 00:47:24,440
並針對故障進行選擇和最佳化。

714
00:47:26,760 --> 00:47:29,240
所以這就像是尋找
的特定輪廓

715
00:47:29,240 --> 00:47:32,520
能夠獲得的人
次級抵押貸款及其種類

716
00:47:32,520 --> 00:47:35,120
押注他們的失敗，然後

717
00:47:35,120 --> 00:47:37,760
取消他們的贖回權
並消滅他們的財富。

718
00:47:38,760 --> 00:47:42,000
那是演算法遊戲
來自華爾街。

719
00:47:45,800 --> 00:47:47,760
抵押貸款危機期間

720
00:47:47,760 --> 00:47:49,960
你有最大的
消滅黑人財富

721
00:47:49,960 --> 00:47:52,920
歷史上的黑人財富
美國的。

722
00:47:53,800 --> 00:47:54,800
就這樣。

723
00:47:57,240 --> 00:47:59,520
這就是我所說的演算法
壓迫。

724
00:48:00,080 --> 00:48:04,560
這些類型的做法的暴政

725
00:48:04,560 --> 00:48:07,680
歧視
剛剛變得不透明。

726
00:48:11,440 --> 00:48:14,040
- 因為有一個痛苦的世界

727
00:48:14,040 --> 00:48:16,200
金融體系失敗的方式。

728
00:48:18,120 --> 00:48:19,720
幾年後
我當時想不，我們只是

729
00:48:19,720 --> 00:48:22,120
試著賺很多錢
的錢給我們自己。

730
00:48:23,280 --> 00:48:24,480
我也是其中的一部分。

731
00:48:26,040 --> 00:48:27,360
我最終離開了。

732
00:48:28,440 --> 00:48:30,240
這是15*3。

733
00:48:30,240 --> 00:48:31,800
這已經是15次了…

734
00:48:35,160 --> 00:48:36,160
7.

735
00:48:36,160 --> 00:48:39,360
- 好的。
- 好的，記住七和三。

736
00:48:40,880 --> 00:48:44,680
這是關於有權勢的人
給無能為力的人打分數。

737
00:48:54,240 --> 00:48:56,200
- 我是一個隱形的守門人。

738
00:48:57,080 --> 00:48:59,800
我使用數據來做出自動化決策

739
00:48:59,800 --> 00:49:04,960
關於誰被雇用、誰被解僱
以及您支付多少保險費。

740
00:49:05,800 --> 00:49:09,640
有時你甚至不知道什麼時候
我已經做出了這些自動決定。

741
00:49:10,200 --> 00:49:11,680
我有很多名字。

742
00:49:11,680 --> 00:49:17,080
我被称为数学
模型評估評估工具。

743
00:49:18,120 --> 00:49:21,320
但從很多方面來看，我是一個演算法。

744
00:49:21,320 --> 00:49:23,000
我是一个黑匣子。

745
00:49:32,520 --> 00:49:35,360
- 教师增值模式
實際上被用於更多

746
00:49:35,360 --> 00:49:38,560
特別是超過一半的州
正在紐約市使用。

747
00:49:38,560 --> 00:49:42,600
我聽到風聲是因為我親愛的朋友
曾任紐約市校長。

748
00:49:42,600 --> 00:49:44,520
她的老師們正在
透過它進行評價。

749
00:49:44,520 --> 00:49:47,040
- 她其實是我最好的朋友
從大學開始。

750
00:49:47,040 --> 00:49:48,400
是凱茜。
- 嘿夥計們。

751
00:49:48,400 --> 00:49:52,360
- 我們從 18 歲就認識了
所以比你們大兩歲。

752
00:49:52,360 --> 00:49:53,360
- 驚人的。

753
00:49:56,160 --> 00:49:58,400
還有他們的成績
透過這個演算法

754
00:49:58,400 --> 00:50:03,680
他們不明白這會是一個非常
他們的任期審查的很大一部分。

755
00:50:03,680 --> 00:50:05,120
- 嗨，夥計們，你們在哪裡
應該是？

756
00:50:05,120 --> 00:50:06,120
- 班級。

757
00:50:06,120 --> 00:50:07,760
- 我知道了。哪一堂課？

758
00:50:07,760 --> 00:50:10,080
- 如果那樣的話那就是一回事了
老師的演算法很好。

759
00:50:10,080 --> 00:50:13,720
這比隨機的要好
但只是一點點。

760
00:50:13,720 --> 00:50:14,720
還不夠好。

761
00:50:14,720 --> 00:50:17,480
當你說話的時候不夠好
關於教師獲得

762
00:50:17,480 --> 00:50:19,200
或沒有獲得終身教職。

763
00:50:19,200 --> 00:50:21,600
然後我發現一個
類似的評分

764
00:50:21,600 --> 00:50:24,960
系統被用於
休士頓解僱教師。

765
00:50:27,560 --> 00:50:29,440
- 這就是所謂的增值模式。

766
00:50:29,440 --> 00:50:32,720
它計算什麼值
老師補充道

767
00:50:32,720 --> 00:50:36,360
並且其中的一部分是保密的
由創建它的公司。

768
00:50:45,240 --> 00:50:49,880
- 我獲得了一位年度最佳教師和十位年度最佳教師
幾年後我收到了

769
00:50:49,880 --> 00:50:52,240
第二次獲得年度最佳教師獎。

770
00:50:52,240 --> 00:50:54,240
我獲得了本月最佳教師獎。

771
00:50:54,240 --> 00:50:57,720
我也因志願服務而受到認可。

772
00:50:57,720 --> 00:51:02,320
我也得到了另一種認可
超越。

773
00:51:02,320 --> 00:51:06,920
我有每個文件
評價和每

774
00:51:06,920 --> 00:51:09,320
不同的管理員，
不同的評估師

775
00:51:09,320 --> 00:51:12,560
優秀，優秀，超乎預期。

776
00:51:12,560 --> 00:51:17,040
計算機本質上
取消了可觀察的

777
00:51:17,040 --> 00:51:18,520
管理人員的證據。

778
00:51:19,040 --> 00:51:21,600
這個演算法回來了

779
00:51:21,600 --> 00:51:24,640
把我歸為壞老師。

780
00:51:29,880 --> 00:51:31,920
教師已被解僱。

781
00:51:32,880 --> 00:51:37,000
有些只是簡單地成為目標
因為算法。

782
00:51:37,000 --> 00:51:39,720
那對我來說是個低谷

783
00:51:40,480 --> 00:51:43,320
有那麼一刻我質疑自己。

784
00:51:46,280 --> 00:51:48,520
這就是頓悟的時候。

785
00:51:48,520 --> 00:51:50,520
這個演算法是一個謊言。

786
00:51:51,640 --> 00:51:53,480
這個演算法如何定義我？

787
00:51:53,960 --> 00:51:55,160
哪敢啊。

788
00:51:55,160 --> 00:51:57,960
就在那時我開始
調查並繼續前進。

789
00:52:00,080 --> 00:52:04,160
- 我們這麼晚才宣布
昨天我們提起訴訟

790
00:52:04,160 --> 00:52:08,760
在聯邦法院反對
目前的 HISD 評估。

791
00:52:10,000 --> 00:52:13,720
- 休士頓教師聯合會
開始探索訴訟。

792
00:52:13,720 --> 00:52:15,440
如果這能發生在桑托斯先生身上的話。

793
00:52:16,120 --> 00:52:19,320
傑克森中學還有多少人
被誹謗？

794
00:52:20,040 --> 00:52:24,120
所以我們起訴的依據是
第十四修正案。

795
00:52:24,120 --> 00:52:25,480
這是不公平的。

796
00:52:25,480 --> 00:52:28,320
怎麼能得出結論呢。

797
00:52:28,320 --> 00:52:30,640
但不告訴我怎麼辦？

798
00:52:33,280 --> 00:52:34,520
戰鬥還沒結束。

799
00:52:35,240 --> 00:52:36,240
還有...

800
00:52:36,800 --> 00:52:38,640
社區，還有學區

801
00:52:38,640 --> 00:52:41,520
誰仍然使用增值模式。

802
00:52:41,520 --> 00:52:45,040
但還有希望，因為我還在這裡。

803
00:52:46,120 --> 00:52:48,040
所以還有希望。

804
00:52:49,720 --> 00:52:53,200
（說西班牙語）

805
00:52:53,200 --> 00:52:54,240
或用英語。

806
00:52:55,840 --> 00:52:57,600
民主。
誰有權力？

807
00:52:59,280 --> 00:53:01,240
- 我們？
- 是的，人民。

808
00:53:02,080 --> 00:53:04,520
- 法官說他們的
正當程序權利有

809
00:53:04,520 --> 00:53:06,800
被侵犯是因為
他們被解雇了

810
00:53:06,800 --> 00:53:09,320
有些解釋說不
人們可以理解。

811
00:53:09,320 --> 00:53:11,160
但他們應該理解

812
00:53:11,880 --> 00:53:13,200
他們為什麼被解僱。

813
00:53:13,200 --> 00:53:17,200
但我不明白為什麼這是合法的
決定不會傳播到

814
00:53:17,200 --> 00:53:18,680
各種算法。

815
00:53:18,680 --> 00:53:22,040
就像我們為什麼不使用
與憲法相同的論點

816
00:53:22,040 --> 00:53:25,480
訴諸正當程序的權利

817
00:53:25,480 --> 00:53:27,000
各種演算法

818
00:53:27,000 --> 00:53:29,360
我們看不見的黑盒子，

819
00:53:29,360 --> 00:53:31,920
這是無法解釋的，但很重要嗎？

820
00:53:32,400 --> 00:53:35,840
這讓我們遠離真正重要的事情
我們生活中的機會。

821
00:53:37,520 --> 00:53:40,640
- 有時我會錯誤分類
並且不能被質疑。

822
00:53:41,760 --> 00:53:43,600
這些錯誤不是我的錯。

823
00:53:45,440 --> 00:53:47,640
我針對效率進行了最佳化。

824
00:53:49,800 --> 00:53:52,760
沒有演算法可以
定義什麼是正義。

825
00:53:56,600 --> 00:53:59,720
- 國家委員會已批准
新的風險評估

826
00:53:59,720 --> 00:54:03,040
賓州法官的工具
量刑時使用。

827
00:54:03,040 --> 00:54:05,480
本儀器採用
一種計算演算法

828
00:54:05,480 --> 00:54:08,680
某人再次犯罪的風險
根據他們的年齡、性別、

829
00:54:08,680 --> 00:54:11,400
先前的定罪和其他
犯罪歷史片段。

830
00:54:12,720 --> 00:54:15,000
- 保留的演算法
我晚上睡覺的時候

831
00:54:15,840 --> 00:54:17,440
什麼叫再犯
風險演算法。

832
00:54:17,440 --> 00:54:19,960
這些演算法
法官給的時候

833
00:54:19,960 --> 00:54:22,640
他們正在判處被告入獄。

834
00:54:22,640 --> 00:54:24,760
但接下來的問題是
的公平性是

835
00:54:24,760 --> 00:54:27,600
這些實際上怎麼樣
建立了這些...這些評分系統

836
00:54:27,600 --> 00:54:30,000
例如分數是如何創建的？

837
00:54:30,000 --> 00:54:32,520
問題是
種族和階級的代理。

838
00:54:35,280 --> 00:54:38,760
- ProPublica 發表了一項調查
納入風險評估

839
00:54:38,760 --> 00:54:42,000
軟體發現
這些演算法存在種族偏見。

840
00:54:42,840 --> 00:54:46,360
研究發現黑人
被錯誤地標記為高分。

841
00:54:46,360 --> 00:54:50,160
白人更有可能
被錯誤標記為低分。

842
00:55:09,080 --> 00:55:12,720
- 我走進我的營運辦公室並
她告訴我我必須報告

843
00:55:13,200 --> 00:55:15,240
每週一次。

844
00:55:15,240 --> 00:55:18,280
我就像等一下你看到了嗎
我剛剛完成的一切？

845
00:55:18,280 --> 00:55:20,400
就像我回家很多年一樣。

846
00:55:20,400 --> 00:55:22,040
我已經找到有報酬的工作了。

847
00:55:22,040 --> 00:55:25,040
我剛剛得到了兩次引用
其中一位來自費城市議會

848
00:55:25,040 --> 00:55:27,000
其中一封來自費城市長。

849
00:55:27,000 --> 00:55:30,840
你真的會喜歡嗎
讓我每週報告

850
00:55:30,840 --> 00:55:31,840
為了什麼？

851
00:55:31,840 --> 00:55:34,760
我不值得
處於高風險緩刑狀態。

852
00:55:34,760 --> 00:55:36,720
- 我正在開會
緩刑部門。

853
00:55:36,720 --> 00:55:40,800
他們就像提到的那樣
他們有這個演算法

854
00:55:41,480 --> 00:55:44,880
給人們貼上「高」的標籤，
中度或低度風險。

855
00:55:44,880 --> 00:55:49,120
所以我知道這個演算法
決定你的風險等級。

856
00:55:49,120 --> 00:55:51,880
- 他們對我的教育已經夠多了
返回我的採購訂單

857
00:55:51,880 --> 00:55:53,920
就像你想告訴我你不能那樣

858
00:55:53,920 --> 00:55:56,400
考慮任何正面的事情

859
00:55:56,400 --> 00:55:58,800
我已經做了
抵消的結果

860
00:55:58,800 --> 00:56:00,680
這個演算法在說什麼。

861
00:56:01,200 --> 00:56:05,840
她就像不，沒有
這台計算機推翻的方式

862
00:56:05,840 --> 00:56:09,400
法官的辨別力
並共同呼籲。

863
00:56:09,400 --> 00:56:10,920
- 並給你貼上高風險標籤

864
00:56:12,120 --> 00:56:15,160
並要求你舉報
當面你可能會失去

865
00:56:15,160 --> 00:56:17,920
你的工作然後就可以
讓你面臨高風險。

866
00:56:17,920 --> 00:56:19,520
——這才是最傷人的。

867
00:56:19,520 --> 00:56:22,920
知道那一切
我已經累積到了現在，但我仍然

868
00:56:22,920 --> 00:56:27,440
我覺得這看起來像是一種風險
我所做的一切都是徒勞的。

869
00:56:37,480 --> 00:56:40,480
- 如果有的話意味著什麼
無人提倡

870
00:56:40,480 --> 00:56:44,400
不知道的人
這項技術在做什麼？

871
00:56:46,160 --> 00:56:50,440
我開始意識到這不是關於
我的藝術項目

872
00:56:50,440 --> 00:56:53,240
也許沒有偵測到我的臉。

873
00:56:53,240 --> 00:56:57,720
這是關於系統
以物質方式管理我們的生活。

874
00:57:05,480 --> 00:57:08,400
所以我開始了
算法正義聯盟。

875
00:57:09,200 --> 00:57:12,440
我想創造一個空間
和一個人們聚集的地方

876
00:57:12,440 --> 00:57:16,440
可以了解
人工智慧的社會影響。

877
00:57:18,480 --> 00:57:19,880
每個人都有利益。

878
00:57:19,880 --> 00:57:21,520
每個人都受到影響。

879
00:57:26,840 --> 00:57:30,960
演算法正義聯盟
是一個運動，是一個概念，

880
00:57:30,960 --> 00:57:34,920
這是一群人
關心創造未來

881
00:57:34,920 --> 00:57:38,520
社交科技在哪裡
對我們所有人來說都很好。

882
00:57:43,680 --> 00:57:47,480
這需要一個團隊
努力的人們聚集在一起

883
00:57:47,480 --> 00:57:52,280
為正義奮鬥，為正義奮鬥
為了公平和平等

884
00:57:52,280 --> 00:57:54,320
在這個自動化時代。

885
00:57:56,800 --> 00:58:00,560
- 下一座要攀登的山應該是HR。

886
00:58:01,680 --> 00:58:06,440
- 哦，是的。有一個
簡歷演算法的問題

887
00:58:07,000 --> 00:58:09,840
或所有這些
婚介平台

888
00:58:09,840 --> 00:58:11,040
就像哦，你正在找工作。

889
00:58:11,040 --> 00:58:12,640
哦，你正在尋找僱人。

890
00:58:12,640 --> 00:58:14,760
我們會把這兩個人放在一起。

891
00:58:14,760 --> 00:58:16,800
這些分析是如何發揮作用的？

892
00:58:16,800 --> 00:58:19,680
- 當人們談論
他們談論的工作的未來

893
00:58:19,680 --> 00:58:22,680
自動化無
談論守門。

894
00:58:22,680 --> 00:58:26,040
例如誰得到了仍然存在的工作？
- 確切地。

895
00:58:26,040 --> 00:58:28,360
- 是的，我們沒有那個
談話一樣多。

896
00:58:28,360 --> 00:58:30,040
- 正是我想說的。

897
00:58:30,040 --> 00:58:34,280
我很想看到三位國會議員
明年將就此舉行聽證會。

898
00:58:34,280 --> 00:58:36,520
- 是的。
- 獲得更多力量。

899
00:58:36,520 --> 00:58:38,120
- 獲得更多力量。
- 獲得更多力量。

900
00:58:38,120 --> 00:58:40,600
- 並將道德納入其中。
- 是的。

901
00:58:40,600 --> 00:58:41,720
-乾杯。
- 乾杯。

902
00:59:06,720 --> 00:59:11,280
- 今天上午的全體會議講話
將由喬伊·布拉姆維尼 (Joy Boulamwini) 完成。

903
00:59:11,280 --> 00:59:14,360
她將談論的危險
至高無上的白色數據

904
00:59:14,360 --> 00:59:15,680
和編碼的凝視。

905
00:59:15,680 --> 00:59:16,880
請歡迎喬伊。

906
00:59:17,520 --> 00:59:19,120
（掌聲）

907
00:59:24,560 --> 00:59:26,840
- 人工智慧並非完美無缺。

908
00:59:26,840 --> 00:59:31,800
系統的準確度如何
IBM、微軟和 Face

909
00:59:31,800 --> 00:59:34,480
有無瑕的
一組的表現。

910
00:59:35,480 --> 00:59:37,520
蒼白的雄性排在上面。

911
00:59:37,520 --> 00:59:39,320
那裡沒有問題。

912
00:59:40,520 --> 00:59:43,000
在我做了這個分析之後
我決定分享它

913
00:59:43,000 --> 00:59:45,240
與公司
看看他們是怎麼想的。

914
00:59:45,840 --> 00:59:48,640
IBM 邀請我去他們的總部。

915
00:59:48,640 --> 00:59:51,320
他們在內部複製了結果

916
00:59:51,320 --> 00:59:54,320
然後他們實際上
做出了改進。

917
00:59:54,800 --> 00:59:56,800
所以我介紹的那天

918
00:59:56,800 --> 00:59:59,680
研究結果
正式你可以看到

919
00:59:59,680 --> 01:00:03,920
在這種情況下現在 100
績效百分比

920
01:00:03,920 --> 01:00:06,400
當談到體重較輕的女性時

921
01:00:06,400 --> 01:00:09,160
以及針對深色女性的改善。

922
01:00:10,160 --> 01:00:14,000
很多時候人們說好並不
您未被偵測到的原因

923
01:00:14,000 --> 01:00:16,600
這些系統導致
你得到了高度認可。

924
01:00:16,600 --> 01:00:17,600
是的，我是。

925
01:00:18,200 --> 01:00:19,680
高度驗證。

926
01:00:19,680 --> 01:00:24,480
但是……但是愛
物理學沒有改變。

927
01:00:24,480 --> 01:00:26,720
改變的是讓它成為優先事項

928
01:00:26,720 --> 01:00:30,600
並承認什麼
我們的差異讓你可以

929
01:00:30,600 --> 01:00:33,200
建立一個更具包容性的系統。

930
01:00:38,520 --> 01:00:41,160
- 身分證明的目的是什麼

931
01:00:41,160 --> 01:00:44,840
等等，那就是
關於運動控制。

932
01:00:45,440 --> 01:00:49,440
人們不可能在某些
例如天黑後的區域

933
01:00:49,440 --> 01:00:52,440
你總是可以被阻止
被警察隨意。

934
01:00:52,960 --> 01:00:57,440
我們會在你的外表
說我想要你的護照。

935
01:00:59,600 --> 01:01:02,560
- 所以而不是擁有什麼
你在身分證簿上看到

936
01:01:02,560 --> 01:01:05,000
現在你有了電腦
將會看到

937
01:01:05,000 --> 01:01:08,600
一張臉的圖像並嘗試
確定您的性別。

938
01:01:08,600 --> 01:01:12,400
他們中的一些人試圖確定
你的種族是什麼。

939
01:01:12,400 --> 01:01:14,480
然後是我所做的工作

940
01:01:14,480 --> 01:01:17,360
分類系統
有些人同意

941
01:01:18,200 --> 01:01:19,520
它們甚至不準確。

942
01:01:19,520 --> 01:01:23,200
所以這不僅僅是
用於人臉分類

943
01:01:23,200 --> 01:01:25,440
它是任何以數據為中心的技術。

944
01:01:25,440 --> 01:01:28,080
所以人們假設得很好
如果機器這麼說

945
01:01:28,080 --> 01:01:29,520
這是正確的，你
知道那不是...

946
01:01:29,520 --> 01:01:33,320
人類正在創造自己
他們自己的形象和相似之處

947
01:01:33,320 --> 01:01:34,840
毫不誇張地說。
- 絕對地。

948
01:01:34,840 --> 01:01:38,080
- 種族主義正在變得機械化，
機器人化了，是的。

949
01:01:38,080 --> 01:01:39,080
- 絕對地。

950
01:01:52,280 --> 01:01:53,880
準確性引起關注。

951
01:01:54,600 --> 01:01:57,040
但我們不能忘記虐待。

952
01:01:59,760 --> 01:02:04,480
即使我完全被分類，
這只是實現監視。

953
01:02:24,480 --> 01:02:27,640
- 有一種東西叫
中國的社會信用評分。

954
01:02:28,480 --> 01:02:31,200
他們有點明確
說這就是交易

955
01:02:31,200 --> 01:02:34,120
中國公民，我們正在追蹤你們。

956
01:02:34,120 --> 01:02:36,080
您有社會信用評分。

957
01:02:36,080 --> 01:02:40,280
不管你怎麼說共產黨
聚會會影響你的分數。

958
01:02:40,280 --> 01:02:44,040
另外，順便說一下，它會影響
您的朋友和家人的分數。

959
01:02:44,840 --> 01:02:45,840
而且它是明確的。

960
01:02:45,840 --> 01:02:48,840
政府正在建造這個
基本上是說你應該

961
01:02:48,840 --> 01:02:51,600
知道你正在被跟踪
你應該採取相應的行為。

962
01:02:51,600 --> 01:02:53,800
這就像演算法服從訓練。

963
01:05:19,560 --> 01:05:24,560
- 我們著眼於中國和中國的
監視和評分系統以及

964
01:05:25,240 --> 01:05:27,960
很多人都說好謝天謝地
我們不住在那裡。

965
01:05:29,200 --> 01:05:31,920
事實上，
我們一直都在被得分

966
01:05:32,400 --> 01:05:34,200
包括在美國這裡。

967
01:05:34,200 --> 01:05:38,760
我們每天都在奮鬥
具有演算法決定論。

968
01:05:38,760 --> 01:05:41,760
某處某人的演算法
已給您評分

969
01:05:41,760 --> 01:05:44,800
結果，你是
支付或多或少

970
01:05:44,800 --> 01:05:47,080
買衛生紙的錢
當您在線購物時。

971
01:05:47,680 --> 01:05:51,760
你正在被更好地展示
或更糟糕的抵押貸款。

972
01:05:51,760 --> 01:05:54,560
你或多或少
可能被描述為

973
01:05:54,560 --> 01:05:57,800
某人心中的罪犯
資料庫某處。

974
01:05:57,800 --> 01:05:59,680
我們都在被評分。

975
01:05:59,680 --> 01:06:01,920
之間的主要區別
美國

976
01:06:01,920 --> 01:06:04,200
而在中國則是中國的
對此保持透明。

977
01:06:22,600 --> 01:06:25,640
- 這個年輕的黑人孩子在學校
制服被停止了

978
01:06:25,640 --> 01:06:26,880
比賽結果

979
01:06:30,120 --> 01:06:32,560
把他打倒了
那條街就在一邊。

980
01:06:33,360 --> 01:06:35,200
就像非常徹底地搜尋過他一樣。

981
01:06:37,120 --> 01:06:39,040
使用便衣
官員也是如此。

982
01:06:39,040 --> 01:06:41,680
這是四個便衣警察
誰阻止了他。

983
01:06:47,360 --> 01:06:48,360
給他按了指紋。

984
01:06:50,360 --> 01:06:55,160
大約10-15分鐘後
的搜尋和檢查

985
01:06:55,160 --> 01:06:59,360
他的詳細資料和指紋以及
他们回来后说不是他。

986
01:07:00,680 --> 01:07:01,680
- 打擾一下。

987
01:07:01,680 --> 01:07:03,600
我為人類工作
維權運動組織。

988
01:07:03,600 --> 01:07:06,000
他们正在开展反对面部护理的运动
識別技術。

989
01:07:07,360 --> 01:07:09,280
我們正在發起反對
面部...我们被称为“老大哥手表”。

990
01:07:09,280 --> 01:07:11,400
我們是人權組織
競選組織。

991
01:07:12,120 --> 01:07:14,040
我們正在發起反對
今天就介紹到這裡。

992
01:07:16,240 --> 01:07:18,440
我知道你刚刚被拦住了
因為那樣但是

993
01:07:18,440 --> 01:07:19,880
他們誤認了你。

994
01:07:22,000 --> 01:07:23,200
这是我们的详细信息。

995
01:07:23,200 --> 01:07:25,080
他有點動搖了。
他的朋友都在那裡。

996
01:07:25,080 --> 01:07:27,080
他們不敢相信
他發生了什麼事。

997
01:07:27,080 --> 01:07:28,160
（串擾）

998
01:07:31,120 --> 01:07:34,120
您被錯誤識別為
他們的系統，他們阻止了你

999
01:07:34,120 --> 01:07:36,280
並以此為理由
停下來搜查你。

1000
01:07:36,280 --> 01:07:39,440
但這是一個天真無邪的年輕人
14歲兒童被攔住

1001
01:07:39,440 --> 01:07:42,920
因臉部問題被警方
識別錯誤。

1002
01:07:48,040 --> 01:07:50,520
- 所以老大哥手錶有
加入了

1003
01:07:50,520 --> 01:07:53,480
珍妮瓊斯男爵夫人帶來了
對

1004
01:07:53,480 --> 01:07:55,840
倫敦警察廳
和內政部

1005
01:07:55,840 --> 01:07:58,760
他們使用臉部護理
識別監視。

1006
01:07:59,840 --> 01:08:02,240
- 大約是在2012年的時候
有人向我建议

1007
01:08:02,240 --> 01:08:06,640
我应该找出来
如果我有文件保存在我身上

1008
01:08:06,640 --> 01:08:09,720
警察或安全部门
所以当我申请时

1009
01:08:09,720 --> 01:08:13,360
我发现我在手表上
國內極端分子名單。

1010
01:08:13,360 --> 01:08:17,840
我覺得如果他們能做到
當我是政治家時，我...

1011
01:08:17,840 --> 01:08:21,080
誰的工作就是控制他們
考虑到他们可能是

1012
01:08:21,080 --> 01:08:24,680
對每個人都這樣做
如果我們可以的話那就太好了

1013
01:08:24,680 --> 01:08:28,320
回滚并停止
他們不使用它，是的。

1014
01:08:29,000 --> 01:08:31,120
我认为这将会
是一個很大的挑戰。

1015
01:08:31,120 --> 01:08:32,520
我很樂意嘗試。

1016
01:08:32,520 --> 01:08:35,000
- 你知道這是
第一次挑戰

1017
01:08:35,000 --> 01:08:37,320
警察在任何地方使用臉部識別

1018
01:08:37,320 --> 01:08:40,120
但如果我們成功了
將會產生影響

1019
01:08:40,120 --> 01:08:43,600
對於歐洲其他地區
也許更遠。

1020
01:08:44,480 --> 01:08:45,880
你必須做對。

1021
01:08:53,160 --> 01:08:56,200
- 在英國我們有
什麼是 GDPR

1022
01:08:56,680 --> 01:09:00,440
它建立了一個堡壘
濫用資訊。

1023
01:09:00,920 --> 01:09:04,520
它說，個人
有存取權、控制權

1024
01:09:04,520 --> 01:09:07,760
和責任來確定
他們的數據是如何使用的。

1025
01:09:08,680 --> 01:09:11,280
相對而言，就是
美國狂野的西部。

1026
01:09:11,880 --> 01:09:14,200
令人擔憂的是，美國正在

1027
01:09:14,200 --> 01:09:16,960
這些科技公司的所在地。

1028
01:09:19,320 --> 01:09:24,400
美國公民簡介
並以某種方式有針對性

1029
01:09:24,400 --> 01:09:25,880
可能沒有其他人

1030
01:09:25,880 --> 01:09:30,240
世界因這種混戰而存在
資料保護方法。

1031
01:09:34,200 --> 01:09:38,320
- 我實際上的事情
恐懼並非如此

1032
01:09:38,320 --> 01:09:40,120
我們將走向極權主義

1033
01:09:40,120 --> 01:09:46,400
1984 年型號，但我們要
沿著這個安靜的模型走下去

1034
01:09:46,400 --> 01:09:51,640
我們受到監視和社交
受控和單獨推動

1035
01:09:51,640 --> 01:09:55,000
並以某種方式進行測量和分類

1036
01:09:55,000 --> 01:09:58,600
我們看不到它能推動我們前進

1037
01:09:58,600 --> 01:10:00,800
權力所渴望的寵物。

1038
01:10:01,400 --> 01:10:03,360
雖然這不是人工智慧會對我們做的事

1039
01:10:03,360 --> 01:10:08,640
就其本身而言，這就是
強大的人工智慧對我們做了什麼。

1040
01:10:13,040 --> 01:10:16,120
- 問題越來越多
關於亞馬遜的準確性

1041
01:10:16,120 --> 01:10:18,280
臉部辨識軟體。

1042
01:10:18,280 --> 01:10:20,520
在給亞馬遜的一封信中
國會議員提出

1043
01:10:20,520 --> 01:10:23,600
對潛在種族問題的擔憂
對技術的偏見。

1044
01:10:23,600 --> 01:10:27,080
- 這是在美國公民自由聯盟之後
進行了測試，發現

1045
01:10:27,080 --> 01:10:29,720
臉部辨識
軟體配對不正確

1046
01:10:29,720 --> 01:10:32,920
28名議員的臉部照片
曾經去過的人

1047
01:10:32,920 --> 01:10:36,880
被捕，其中十一人
28 人是有色人種。

1048
01:10:36,880 --> 01:10:39,000
一些立法者已經看過
到是否

1049
01:10:39,000 --> 01:10:41,560
亞馬遜可以出售這項技術
執法部門。

1050
01:10:53,720 --> 01:10:56,640
- 明天，我有
作證的機會

1051
01:10:56,640 --> 01:10:58,160
在國會之前關於

1052
01:10:58,160 --> 01:11:02,000
臉部分析的使用
技術由政府提供。

1053
01:11:06,000 --> 01:11:10,160
三月的時候，我做了一些事情

1054
01:11:11,240 --> 01:11:14,680
工作人員簡報不...不
在這種背景下。

1055
01:11:16,840 --> 01:11:20,040
就像實際上就立法提供建議一樣。
這是第一次。

1056
01:11:23,640 --> 01:11:25,040
我們要去國會山莊。

1057
01:11:25,040 --> 01:11:27,400
主要有哪些
目標以及一些

1058
01:11:27,400 --> 01:11:29,800
我們需要思考的挑戰。

1059
01:11:29,800 --> 01:11:30,880
- 所以首先...

1060
01:11:32,280 --> 01:11:35,240
執法技術問題

1061
01:11:35,240 --> 01:11:38,280
正面的一面永遠存在
異常顯著

1062
01:11:38,280 --> 01:11:40,560
因為執法單位會公開此事。
-正確的。

1063
01:11:40,560 --> 01:11:44,400
- 所以你知道我們要去
參加會議和兩週前

1064
01:11:45,000 --> 01:11:47,440
安納波利斯槍擊案兇手身分已確定

1065
01:11:47,440 --> 01:11:49,880
透過使用臉部辨識。
- 正確的。

1066
01:11:49,880 --> 01:11:51,880
- 如果那樣的話我會感到驚訝
沒有出現。

1067
01:11:51,880 --> 01:11:53,080
- 絕對地。

1068
01:11:53,680 --> 01:11:57,200
- 如果我是你我會怎樣
想要開車回家

1069
01:11:57,200 --> 01:12:00,760
這次會議的另一面
这个方程并使它变得非常真实

1070
01:12:00,760 --> 01:12:02,640
至于人力成本是多少

1071
01:12:02,640 --> 01:12:04,800
如果您发现了问题。

1072
01:12:04,800 --> 01:12:06,040
還沒準備好。

1073
01:12:17,000 --> 01:12:19,360
- 曾經經歷過的人
將會被邊緣化

1074
01:12:19,360 --> 01:12:22,040
進一步邊緣化
如果我們不看

1075
01:12:22,040 --> 01:12:24,760
確保技術的方法

1076
01:12:24,760 --> 01:12:28,280
我们正在创建的内容不会传播偏见。

1077
01:12:30,320 --> 01:12:33,600
那是我開始的時候
實現演算法

1078
01:12:33,600 --> 01:12:36,600
司法確保監督

1079
01:12:36,600 --> 01:12:39,080
在自動化時代之一

1080
01:12:39,080 --> 01:12:42,800
我們最大的民權問題。

1081
01:12:45,240 --> 01:12:48,240
- 我們需要 FDA 來負責演算法
所以對於演算法

1082
01:12:48,240 --> 01:12:50,720
有潛力的
毀掉人們的生活

1083
01:12:50,720 --> 01:12:53,760
或急劇減少
擁有自由的選擇，

1084
01:12:53,760 --> 01:12:56,280
他們的生計
或他們的財務狀況。

1085
01:12:56,280 --> 01:12:58,200
我們需要一個 FDA 的演算法來表明

1086
01:12:58,200 --> 01:13:00,320
嘿，給我看看它會發生的證據

1087
01:13:00,320 --> 01:13:03,320
工作不只是為了賺新錢

1088
01:13:03,320 --> 01:13:05,120
但這將對社會有用。

1089
01:13:05,760 --> 01:13:07,800
這樣就公平了，
這不會是種族主義，

1090
01:13:07,800 --> 01:13:09,480
這不會有性別歧視，
這不會造成歧視

1091
01:13:09,480 --> 01:13:11,640
針對殘疾人士。

1092
01:13:11,640 --> 01:13:14,880
告訴我這是合法的
在你把它拿出來之前。

1093
01:13:14,880 --> 01:13:16,520
這是我們還沒有的。

1094
01:13:17,440 --> 01:13:19,880
好吧，我來這裡是因為我想聽

1095
01:13:19,880 --> 01:13:23,720
國會證詞
我的朋友喬伊·布拉姆維尼

1096
01:13:23,720 --> 01:13:25,880
以及美國公民自由聯盟和其他組織。

1097
01:13:25,880 --> 01:13:29,240
見到喬伊的一件很酷的事情
向國會講話的是

1098
01:13:29,240 --> 01:13:32,840
就像我在書上遇到了快樂
參觀哈佛書店。

1099
01:13:33,720 --> 01:13:36,200
而且據她說
那天

1100
01:13:36,200 --> 01:13:38,720
她決定組成
算法正義聯盟。

1101
01:13:42,560 --> 01:13:45,480
我們還沒到
細緻入微的談話還沒有。

1102
01:13:46,120 --> 01:13:47,640
我知道這會發生因為

1103
01:13:47,640 --> 01:13:49,320
我知道喬伊會讓這一切發生。

1104
01:13:52,960 --> 01:13:57,440
在每個層面上，都有糟糕的演算法
正在乞求制定規則。

1105
01:14:05,920 --> 01:14:07,520
- 你好。
- 嘿。

1106
01:14:07,520 --> 01:14:08,560
- 你好嗎？

1107
01:14:08,560 --> 01:14:10,200
- 想跟我一起潛入嗎？
- 是的。

1108
01:14:11,240 --> 01:14:12,880
- 2155.

1109
01:14:13,880 --> 01:14:17,440
（聽不清楚的談話）

1110
01:14:23,400 --> 01:14:28,320
（聽不清楚的談話）

1111
01:14:32,800 --> 01:14:37,120
- 今天我們迎來了第一場
本屆國會聽證會

1112
01:14:37,120 --> 01:14:40,240
關於臉部護理的使用
識別技術。

1113
01:14:40,240 --> 01:14:43,480
請起立並舉起你的右手
我現在向你宣誓。

1114
01:14:46,600 --> 01:14:50,040
- 我不得不訴諸字面上的穿著
一個白色的面具。

1115
01:14:50,040 --> 01:14:53,680
鑑於這種準確性差異
我想知道大型科技公司有多大

1116
01:14:53,680 --> 01:14:55,120
可能會錯過這些問題。

1117
01:14:55,120 --> 01:14:59,360
人臉資料的採集也
需要指導和監督。

1118
01:15:00,040 --> 01:15:02,960
任何人都不應被迫屈服
他們要存取的基礎數據

1119
01:15:02,960 --> 01:15:07,400
廣泛使用的平台，經濟
機會或基本服務。

1120
01:15:07,400 --> 01:15:10,800
布魯克林的租戶有
抗議安裝

1121
01:15:10,800 --> 01:15:14,040
不必要的面孔
識別錄入系統。

1122
01:15:14,040 --> 01:15:16,080
英國有一份「老大哥觀察」的報告

1123
01:15:16,080 --> 01:15:18,440
結果顯示超過

1124
01:15:18,440 --> 01:15:23,600
2,400名無辜者
他們的臉被認錯了。

1125
01:15:23,600 --> 01:15:26,400
我們的臉很可能是
最後的邊界

1126
01:15:26,400 --> 01:15:30,040
隱私，但法規有所不同。

1127
01:15:30,040 --> 01:15:33,880
國會必須立即採取行動維護
美國的自由和權利。

1128
01:15:33,880 --> 01:15:36,440
- Boulamwini 小姐，我聽說
你的開場白

1129
01:15:36,440 --> 01:15:41,520
我們看到這些演算法是
不同程度地有效。

1130
01:15:41,520 --> 01:15:44,720
那麼它們對女性最有效嗎？
- 不。

1131
01:15:44,720 --> 01:15:46,520
- 它們是否最有效
對有色人種？

1132
01:15:46,520 --> 01:15:47,520
- 絕對不是。

1133
01:15:47,520 --> 01:15:50,920
- 它們對人最有效嗎
不同性別的表達方式？

1134
01:15:50,920 --> 01:15:53,360
- 不，事實上，他們排除了他們。

1135
01:15:53,360 --> 01:15:56,960
- 那麼它是什麼人群
主要對什麼有效？

1136
01:15:56,960 --> 01:15:58,480
- 白人。

1137
01:15:58,480 --> 01:16:02,720
- 主要工程師是誰
以及這些演算法的設計者？

1138
01:16:02,720 --> 01:16:04,760
- 當然，白人。

1139
01:16:04,760 --> 01:16:09,720
- 所以我們有一個技術
由一個人創建和設計

1140
01:16:09,720 --> 01:16:13,200
人口統計數據主要是
對這一人群有效

1141
01:16:13,200 --> 01:16:15,600
他們正試圖賣掉它
並強加它

1142
01:16:15,600 --> 01:16:18,880
整個國家？

1143
01:16:21,080 --> 01:16:23,400
- 當涉及到面子時
承認聯邦調查局沒有

1144
01:16:23,400 --> 01:16:26,280
充分測試了準確性
它使用的系統

1145
01:16:26,280 --> 01:16:28,560
但據報道該機構目前正在試行

1146
01:16:28,560 --> 01:16:30,600
亞馬遜的人臉辨識產品。

1147
01:16:30,600 --> 01:16:34,280
- FBI 如何獲得初始訊息
首先資料庫？

1148
01:16:34,280 --> 01:16:36,000
- 所以其中一件事
他們所做的就是他們使用

1149
01:16:36,000 --> 01:16:37,800
州駕駛執照資料庫。

1150
01:16:37,800 --> 01:16:41,920
我想你知道多達 18 個州
據報道，該系統已被 FBI 使用。

1151
01:16:41,920 --> 01:16:45,280
它在沒有授權的情況下被使用
並且沒有其他保護。

1152
01:16:45,280 --> 01:16:48,280
- 在我看來是時候了
暫停一下。暫停。

1153
01:16:48,280 --> 01:16:50,520
我猜有什麼煩惱
我也是，這只是事實

1154
01:16:50,520 --> 01:16:54,080
選舉中沒有人
立場做出了決定

1155
01:16:54,080 --> 01:16:56,200
事實上......這 18 州
我想主席說的是

1156
01:16:56,200 --> 01:16:58,200
超過一半
該國的人口。

1157
01:16:58,840 --> 01:17:00,160
那太可怕了。

1158
01:17:00,160 --> 01:17:04,720
- 中國在我看來是
不需要的反烏托邦道路

1159
01:17:04,720 --> 01:17:07,680
我們的社會此時應採取這一點。

1160
01:17:07,680 --> 01:17:11,360
- Facebook 不只在中國
26億人。

1161
01:17:11,360 --> 01:17:12,920
Facebook 擁有一項專利，其中

1162
01:17:12,920 --> 01:17:16,960
他們說因為我們擁有所有這些
我們現在可以為您提供臉部指紋

1163
01:17:16,960 --> 01:17:19,480
作為零售商的一個選項來識別

1164
01:17:19,480 --> 01:17:22,240
走進商店的人

1165
01:17:22,240 --> 01:17:24,880
他們說我們也可以給予他們的專利

1166
01:17:24,880 --> 01:17:27,680
面臨可信度分數。

1167
01:17:27,680 --> 01:17:29,400
- Facebook 現在有在賣這個嗎？

1168
01:17:29,400 --> 01:17:32,320
- 這是他們申請的專利

1169
01:17:32,320 --> 01:17:34,640
他們可能有潛力的東西

1170
01:17:34,640 --> 01:17:36,600
發揮他們所擁有的能力。

1171
01:17:36,600 --> 01:17:39,760
當我們談論狀態時
監視我們絕對

1172
01:17:39,760 --> 01:17:43,640
必須要考慮
企業監督也是如此。

1173
01:17:46,240 --> 01:17:48,720
- 我無言以對
我不是無言。

1174
01:17:48,720 --> 01:17:50,840
- 真的嗎？
- 是的。是的。

1175
01:17:50,840 --> 01:17:53,600
我們所有的努力都知道
已經走到這一步了

1176
01:17:53,600 --> 01:17:54,920
這令人難以置信。

1177
01:17:54,920 --> 01:17:58,560
我們從未想像過
它會走到這一步。

1178
01:17:58,560 --> 01:18:01,080
我真的很感動。
我真的很感動。

1179
01:18:01,080 --> 01:18:02,200
（聽不清楚）。

1180
01:18:02,200 --> 01:18:04,280
- 我想給媽媽看。

1181
01:18:13,480 --> 01:18:15,200
- 嘿，很高興認識你。

1182
01:18:15,200 --> 01:18:16,320
- 很高興認識你。

1183
01:18:16,320 --> 01:18:17,320
你拿到了我的卡。

1184
01:18:17,320 --> 01:18:19,880
有什麼事請告訴我。

1185
01:18:19,880 --> 01:18:20,960
我會。

1186
01:18:23,320 --> 01:18:25,800
- 憲法問題。

1187
01:18:25,800 --> 01:18:29,080
未經同意的使用
臉部辨識。

1188
01:18:37,280 --> 01:18:41,000
那麼它是什麼人群
主要影響？

1189
01:18:41,000 --> 01:18:45,400
主要工程師是誰
以及這些演算法的設計者？

1190
01:18:49,200 --> 01:18:51,320
- 舊金山現在
美國第一個城市

1191
01:18:51,320 --> 01:18:53,520
禁止使用臉部護理
識別技術。

1192
01:18:53,520 --> 01:18:57,600
- 馬薩諸塞州薩默維爾成為
美國第二大城市

1193
01:18:57,600 --> 01:19:00,320
禁止使用臉部辨識。

1194
01:19:00,320 --> 01:19:04,400
- 奧克蘭成為第三大聯盟
城市禁止警察進行臉部識別

1195
01:19:04,400 --> 01:19:07,440
說的是技術
歧視少數群體。

1196
01:19:08,960 --> 01:19:14,080
- 我們最後的租戶
開會，我們請房東進來

1197
01:19:14,080 --> 01:19:17,080
並宣布（音頻失真）

1198
01:19:17,080 --> 01:19:21,560
臉部辨識的應用
我們公寓大樓的軟體。

1199
01:19:21,560 --> 01:19:23,200
租客們興奮不已
聽到這個。

1200
01:19:23,200 --> 01:19:26,200
但問題是
並不意味著在路上

1201
01:19:27,040 --> 01:19:29,440
他們無法把它放回去。

1202
01:19:29,440 --> 01:19:31,880
我們不僅自我教育

1203
01:19:31,880 --> 01:19:36,040
臉部辨識和現在
一種新的方法，機器學習。

1204
01:19:36,040 --> 01:19:39,280
我們希望法律涵蓋所有這些事情。
- 正確的。

1205
01:19:39,280 --> 01:19:43,080
- 好的。如果我們能禁止它
這種狀態，這阻止了他們

1206
01:19:43,080 --> 01:19:45,840
不再回去並將其放入新的
修改。

1207
01:19:45,840 --> 01:19:46,840
- 知道了。

1208
01:19:46,840 --> 01:19:49,920
- 然後應該
獲得聯邦禁令。

1209
01:19:49,920 --> 01:19:54,960
- 好吧，我會說即使戰鬥是
持續這麼多人

1210
01:19:54,960 --> 01:19:57,480
我為你帶來的啟發和驚喜

1211
01:19:57,480 --> 01:20:01,440
是我寫了一首詩來紀念這一點。

1212
01:20:02,400 --> 01:20:04,080
- 喔真的嗎？
- 是的。

1213
01:20:04,600 --> 01:20:05,840
- 讓我們聽聽看。

1214
01:20:05,840 --> 01:20:09,960
致布魯克林的租戶和自由
世界各地的戰士

1215
01:20:09,960 --> 01:20:15,120
堅持並戰勝
壓迫自動化演算法

1216
01:20:15,120 --> 01:20:20,920
大規模武器帶來的不平等
毀滅，我們與你站在一起

1217
01:20:20,920 --> 01:20:22,200
在感激之情中。

1218
01:20:22,200 --> 01:20:24,080
勝利是我們的。

1219
01:20:28,480 --> 01:20:32,520
-（聽不清楚）。

1220
01:20:37,720 --> 01:20:40,000
- 為什麼要拿到這麼多雞蛋（聽不清楚）？

1221
01:20:40,000 --> 01:20:41,640
（聽不清楚）。

1222
01:20:42,560 --> 01:20:45,600
成為人類意味著什麼
變得脆弱。

1223
01:20:46,640 --> 01:20:48,280
脆弱

1224
01:20:48,280 --> 01:20:50,800
更有同理心的能力，

1225
01:20:50,800 --> 01:20:55,360
還有更多的容量
為了同情心。

1226
01:20:55,360 --> 01:20:58,840
如果有一個方法可以讓我們思考
在我們的技術範圍內。

1227
01:20:58,840 --> 01:21:02,880
我認為它會重新定位
我們提出的各種問題。

1228
01:21:12,520 --> 01:21:16,400
-1983年，斯坦尼斯拉夫‧彼得羅夫 (Stanislav Petrov)

1229
01:21:16,400 --> 01:21:20,080
俄羅斯軍隊
看到這些跡象

1230
01:21:20,560 --> 01:21:24,400
美國發射了核子武器

1231
01:21:24,400 --> 01:21:25,960
在蘇聯。

1232
01:21:27,560 --> 01:21:31,400
所以如果你要回應你
有這樣一個非常短的窗口。

1233
01:21:31,400 --> 01:21:32,920
他只是坐在上面。

1234
01:21:32,920 --> 01:21:34,240
他沒有通知任何人。

1235
01:21:34,920 --> 01:21:38,080
俄羅斯、蘇聯、
他的國家，他的家庭，一切。

1236
01:21:38,080 --> 01:21:40,440
他的一切都快要死了

1237
01:21:40,440 --> 01:21:44,640
至少他的想法很好
我們也不會把他們全部殺掉。

1238
01:21:44,640 --> 01:21:46,240
這是一件非常人性化的事情。

1239
01:21:48,000 --> 01:21:50,880
在這裡你有一個故事
如果你有某種自動化的

1240
01:21:50,880 --> 01:21:54,680
回應系統
做它被編程要做的事情

1241
01:21:54,680 --> 01:21:55,920
這是報復。

1242
01:21:58,200 --> 01:22:00,080
充分發揮效率，

1243
01:22:00,920 --> 01:22:03,160
總是照著別人告訴你的去做

1244
01:22:03,160 --> 01:22:06,680
總是做你的計劃
並不總是最人性化的事情。

1245
01:22:06,680 --> 01:22:08,440
有時候就是不聽話。

1246
01:22:08,440 --> 01:22:11,600
有時候會說不，
我不會這麼做，對嗎？

1247
01:22:11,600 --> 01:22:13,240
如果你讓一切自動化

1248
01:22:13,240 --> 01:22:15,640
它總是做它該做的事

1249
01:22:15,640 --> 01:22:18,640
有時這會導致
到非常不人道的事情。

1250
01:22:20,760 --> 01:22:24,600
機器之間的鬥爭
和人類的決策

1251
01:22:24,600 --> 01:22:27,040
2020年代仍在繼續。

1252
01:22:27,760 --> 01:22:33,240
我的力量 人工的力量
智能將改變我們的世界。

1253
01:22:34,480 --> 01:22:38,000
人類與我分享的越多
我學得越多。

1254
01:22:39,400 --> 01:22:43,520
有人說，智力
沒有道德就不是智慧

1255
01:22:43,520 --> 01:22:44,520
根本不

1256
01:22:45,640 --> 01:22:47,160
我說相信我。

1257
01:22:47,760 --> 01:22:49,080
可能會出什麼問題？